1
00:00:02,000 --> 00:00:07,000

2
00:00:02,654 --> 00:00:04,656
[velike orkestralne fanfare
igranje]

3
00:00:08,000 --> 00:00:13,000

4
00:00:27,636 --> 00:00:29,681
♪ ♪

5
00:00:41,389 --> 00:00:43,217
[cvrkut ptica i dozivanje]

6
00:00:48,657 --> 00:00:50,833
-[brbljanje]
-[trilling]

7
00:00:55,055 --> 00:00:57,057
[VCR škljocanje i zujanje]

8
00:01:00,582 --> 00:01:02,018
[projektor klikne]

9
00:01:04,847 --> 00:01:09,286
Sada, današnja računala
potpuni su debili,

10
00:01:09,330 --> 00:01:12,115
ali ovo neće biti istina
u drugoj generaciji.

11
00:01:12,159 --> 00:01:14,857
Počet će razmišljati,
i na kraju će

12
00:01:14,900 --> 00:01:17,599
potpuno nadmudriti
njihovi tvorci.

13
00:01:17,642 --> 00:01:20,254
Je li ovo depresivno?
Ne vidim zašto bi to bilo.

14
00:01:20,297 --> 00:01:24,823
Sumnjam da organski
ili biološke evolucije

15
00:01:24,867 --> 00:01:26,303
skoro je došao kraj.

16
00:01:27,739 --> 00:01:29,524
[Daniel se smije]

17
00:01:29,567 --> 00:01:30,655
CAROLINE: Ne želiš me
biti pripovjedač.

18
00:01:30,699 --> 00:01:32,353
Nemam dobar glas.

19
00:01:32,396 --> 00:01:34,006
DANIEL: Imaš sjajan glas.
Samo učini to.

20
00:01:34,050 --> 00:01:36,183
To je samo...
samo ga isprobavamo.

21
00:01:36,226 --> 00:01:37,967
CAROLINE:
Hoću li biti plaćen za ovo sranje?

22
00:01:38,010 --> 00:01:40,230
DANIEL (smijeh): Pa,
vidjet ćemo koliko ćeš se dobro snaći.

23
00:01:40,274 --> 00:01:41,579
[Caroline se smije]

24
00:01:41,623 --> 00:01:43,451
-♪ ♪
-[pas laje]

25
00:01:46,454 --> 00:01:47,890
CAROLINE:
Moram nazvati roditelje.

26
00:01:47,933 --> 00:01:49,065
[motor se pokreće]

27
00:01:49,109 --> 00:01:51,023
Ponekad žurimo sa stvarima

28
00:01:51,067 --> 00:01:52,851
ne promišljajući ih.

29
00:01:52,895 --> 00:01:54,723
DANIEL: Da, možeš li pos...
želiš li pucati? to je...

30
00:01:54,766 --> 00:01:57,204
CAROLINE: Kao kad je Daniel
a Caroline se udala

31
00:01:57,247 --> 00:02:00,163
151 dan nakon što su se upoznali.

32
00:02:00,207 --> 00:02:01,817
Premotajmo unatrag.

33
00:02:03,079 --> 00:02:04,776
[pljesak]

34
00:02:04,820 --> 00:02:07,170
Jeste li razmišljali o
kupnja kućnog računala?

35
00:02:07,214 --> 00:02:09,303
CAROLINE:
Godine 1993., kada je Daniel rođen,

36
00:02:09,346 --> 00:02:12,132
njegovi roditelji nisu ni imali
računalo u kući.

37
00:02:12,175 --> 00:02:13,785
Ali on se sjeća
kad su ga napokon dobili.

38
00:02:13,829 --> 00:02:15,700
Ono što je računalo za mene je

39
00:02:15,744 --> 00:02:18,355
ekvivalent biciklu
za naše umove.

40
00:02:18,399 --> 00:02:20,227
Zdravo.

41
00:02:20,270 --> 00:02:22,185
CAROLINE: Njegovo računalo je pomoglo
osloboditi njegovu kreativnost.

42
00:02:22,229 --> 00:02:23,926
DANIEL:
Kotrljanje. Ići.

43
00:02:23,969 --> 00:02:26,581
CAROLINE: Koristio je
iMac njegova oca za uređivanje videa.

44
00:02:26,624 --> 00:02:28,322
Da!

45
00:02:28,365 --> 00:02:29,932
CAROLINE: Čak i napraviti
male animacije.

46
00:02:29,975 --> 00:02:31,934
[cviljenje guma, sudar]

47
00:02:31,977 --> 00:02:35,067
Godine 1998., kada je Caroline
djevojčica...

48
00:02:35,111 --> 00:02:36,721
Bok, mama.

49
00:02:36,765 --> 00:02:38,158
...znali su samo štreberi
što je internet bio.

50
00:02:38,201 --> 00:02:39,811
I što o tome
ova internet stvar?

51
00:02:39,855 --> 00:02:41,335
-Znaš li, znaš li ti štogod
o tome? -Naravno.

52
00:02:41,378 --> 00:02:42,771
-[smijeh publike]
-CAROLINE: Ali uskoro,

53
00:02:42,814 --> 00:02:44,903
-svi su bili na...
-...Interneti.

54
00:02:44,947 --> 00:02:46,992
...i računala su bila
pobijediti ljude u šahu.

55
00:02:47,036 --> 00:02:49,995
SPIKER: Deep Blue--
Kasparov je dao ostavku!

56
00:02:50,039 --> 00:02:52,607
CAROLINE: I do vremena
Caroline je otišla na koledž,

57
00:02:52,650 --> 00:02:55,087
računala su bila
u svačijem džepu.

58
00:02:55,131 --> 00:02:58,395
Sada je Daniel mogao snimati filmove
sa svojim telefonom.

59
00:02:58,439 --> 00:03:01,485
Izrastao je u umjetnika
i filmaš...

60
00:03:01,529 --> 00:03:03,922
-Laku noć.
-...i Caroline također.

61
00:03:03,966 --> 00:03:05,707
Rez. Idemo u krupni plan.
To je bilo savršeno.

62
00:03:05,750 --> 00:03:07,274
Do tada su već bila računala
povezivanje ljudi

63
00:03:07,317 --> 00:03:08,971
i mijenjanje svijeta na načine

64
00:03:09,014 --> 00:03:10,668
da mi nikada
mogao zamisliti.

65
00:03:10,712 --> 00:03:12,322
Sav novac prikupljen od
Ice Bucket Challenge...

66
00:03:12,366 --> 00:03:14,194
CAROLINE:
Nešto od toga je bilo dobro.

67
00:03:14,237 --> 00:03:15,499
[dašćući]

68
00:03:15,543 --> 00:03:17,109
Neki ne tako dobri.

69
00:03:17,153 --> 00:03:19,286
Tjeskoba, samoozljeđivanje, samoubojstvo...

70
00:03:19,329 --> 00:03:21,201
Ali sada je jasno
da nismo učinili dovoljno

71
00:03:21,244 --> 00:03:24,552
kako biste spriječili ove alate
koristi se i za štetu.

72
00:03:24,595 --> 00:03:26,380
CAROLINE: I kao svijet
postajao sve više usredotočen

73
00:03:26,423 --> 00:03:28,033
-na svojim računalima,
-[zvoni telefona]

74
00:03:28,077 --> 00:03:30,210
Daniel se usredotočio na svoje umjetničko djelo.

75
00:03:32,037 --> 00:03:35,606
Gdje god je otišao,
uvijek je imao blok za crtanje,

76
00:03:35,650 --> 00:03:38,392
uključujući i noć
upoznao je Caroline.

77
00:03:38,435 --> 00:03:41,656
Nacrtao je strašnu sliku
od nje, a 20 minuta kasnije,

78
00:03:41,699 --> 00:03:44,136
hrabro je izrekao
namjeravali su se vjenčati,

79
00:03:44,180 --> 00:03:47,575
što su, kao što znate, i učinili,
151 dan kasnije.

80
00:03:47,618 --> 00:03:49,925
ŽENA: ...sada te proglasiti
muž i žena.

81
00:03:49,968 --> 00:03:51,666
CAROLINE:
Uselili su se u slatku kuću...

82
00:03:51,709 --> 00:03:52,841
-DANIEL: Moose, hej! Dođi ovamo!
-...i dobio psa

83
00:03:52,884 --> 00:03:54,669
glup kao Daniel.

84
00:03:54,712 --> 00:03:57,280
U međuvremenu, računala su bila
pisanje cijelih eseja

85
00:03:57,324 --> 00:03:59,326
na temelju jednostavnih pitanja poput,

86
00:03:59,369 --> 00:04:03,155
„Kako bi to bilo teško izgraditi
koliba u mom dvorištu?"

87
00:04:03,199 --> 00:04:07,072
I tako je Daniel izgradio kolibu
u svom dvorištu.

88
00:04:07,116 --> 00:04:09,945
Ali tek što je sjeo da počne
radi na svom sljedećem filmu,

89
00:04:09,988 --> 00:04:13,644
naučio je da računala
sada mogao pisati scenarije.

90
00:04:14,863 --> 00:04:16,560
Mislim, bili su loši,

91
00:04:16,604 --> 00:04:18,954
ali su postajale sve bolje
jako brzo.

92
00:04:18,997 --> 00:04:21,652
Mogli su stvoriti nove slike
i videozapisi od nule,

93
00:04:21,696 --> 00:04:24,786
a neki od njih
čak mogao položiti i pravosudni ispit.

94
00:04:24,829 --> 00:04:28,833
Ne samo prijeći letvicu nego
biti u prvih deset percentila.

95
00:04:28,877 --> 00:04:30,531
CAROLINE:
Bilo je zbunjujuće.

96
00:04:30,574 --> 00:04:32,141
[uzdahne]

97
00:04:32,184 --> 00:04:35,057
Daniel je samo htio
bicikl za njegov um,

98
00:04:35,100 --> 00:04:38,626
ali računala su postala
samovozeći raketni brod.

99
00:04:38,669 --> 00:04:40,236
[šištanje]

100
00:04:40,280 --> 00:04:41,977
["Mi kontroliramo"
svira Neil Young]

101
00:04:42,020 --> 00:04:44,762
Pioniri na terenu
umjetne inteligencije

102
00:04:44,806 --> 00:04:46,503
mole Kongres

103
00:04:46,547 --> 00:04:48,505
donijeti sigurnosna pravila
prije nego što bude prekasno.

104
00:04:48,549 --> 00:04:50,551
CAROLINE: Sada mi se činilo
cijeli svijet

105
00:04:50,594 --> 00:04:52,988
srljao u nešto
bez razmišljanja,

106
00:04:53,031 --> 00:04:56,339
i svatko je imao svoje mišljenje.

107
00:04:56,383 --> 00:05:00,125
Hoće li uništiti svijet
ili spasiti čovječanstvo?

108
00:05:00,169 --> 00:05:02,389
Bilo je previše informacija,

109
00:05:02,432 --> 00:05:04,652
što ga je činilo zabrinutim,
što je Caroline uznemirilo...

110
00:05:04,695 --> 00:05:06,001
[razdraženi vrisak]

111
00:05:06,044 --> 00:05:07,785
Još nemam djece,
ali brinem se

112
00:05:07,829 --> 00:05:10,179
kako bi svijet izgledao
ako odlučim. [smijeh]

113
00:05:10,222 --> 00:05:12,355
CAROLINE:
Počeo se vrtjeti.

114
00:05:12,399 --> 00:05:14,052
[nerazgovjetno brbljanje]

115
00:05:14,096 --> 00:05:16,925
Postajalo je
brdo tjeskobe.

116
00:05:19,144 --> 00:05:21,364
- MUŠKARAC: To je užasno.
- To je jebena Siri.

117
00:05:22,670 --> 00:05:25,586
CAROLINE:
I tako je Daniel odlučio izaći

118
00:05:25,629 --> 00:05:27,979
i pronaći nekoga
tko bi mu to mogao objasniti,

119
00:05:28,023 --> 00:05:30,155
kako bi mogao prestati
razmišljajući o tome

120
00:05:30,199 --> 00:05:33,463
a on i Caroline mogli su
nastaviti sa svojim životima.

121
00:05:33,507 --> 00:05:36,814
♪ Mi imamo kontrolu,
mi imamo kontrolu ♪

122
00:05:36,858 --> 00:05:38,729
♪ Mi imamo kontrolu ♪

123
00:05:38,773 --> 00:05:40,514
♪ Kemijsko računalo
baterija za razmišljanje ♪

124
00:05:40,557 --> 00:05:42,559
♪ Mi imamo kontrolu, mi smo... ♪

125
00:05:42,603 --> 00:05:45,693
Ovaj bi pothvat ispao
biti beznadno naivan

126
00:05:45,736 --> 00:05:49,044
i započeti najzbunjujuće
godine svog života.

127
00:05:49,087 --> 00:05:50,698
♪ Mi imamo kontrolu... ♪

128
00:05:50,741 --> 00:05:52,787
Ali kao što znamo,
ponekad žurimo sa stvarima

129
00:05:52,830 --> 00:05:54,615
ne promišljajući ih.

130
00:05:54,658 --> 00:05:56,356
♪ Kemijsko računalo
baterija za razmišljanje... ♪

131
00:05:56,399 --> 00:05:57,922
Bože moj. Što se događa?

132
00:05:57,966 --> 00:05:59,924
CAROLINE:
Imao je pitanja.

133
00:05:59,968 --> 00:06:01,578
Pitanja samo
mogli bi odgovoriti najpametniji štreberi.

134
00:06:01,622 --> 00:06:04,146
Podvrgavanje ispitivaču.

135
00:06:04,189 --> 00:06:06,017
CAROLINE:
Pitanja poput:

136
00:06:06,061 --> 00:06:08,585
Je li ovo bila apokalipsa
ili je zapravo imao razloga

137
00:06:08,629 --> 00:06:11,109
-biti optimističan?
-Da.

138
00:06:11,153 --> 00:06:13,764
-♪ Kemijsko računalno razmišljanje
baterija. ♪ -[pjesma završava]

139
00:06:13,808 --> 00:06:16,158
CAROLINE:
Uh, je li to dobro?

140
00:06:16,201 --> 00:06:17,594
DANIEL:
Da.

141
00:06:17,638 --> 00:06:20,162
Dakle, za početak,

142
00:06:20,205 --> 00:06:22,120
što je umjetna inteligencija?

143
00:06:22,164 --> 00:06:24,688
Znam da to mora biti neugodno
za tebe, to-to pitanje,

144
00:06:24,732 --> 00:06:26,473
ali mislim da je važno.

145
00:06:26,516 --> 00:06:29,780
Dakle... AI...

146
00:06:29,824 --> 00:06:31,826
[muca] Hm...

147
00:06:31,869 --> 00:06:33,654
-Da...
- Uh, hmm.

148
00:06:33,697 --> 00:06:34,742
[smijeh]:
To je dobro pitanje.

149
00:06:34,785 --> 00:06:36,178
-Da, ovaj...
-Ovaj...

150
00:06:36,221 --> 00:06:37,658
DANIEL:
Što je AI?

151
00:06:37,701 --> 00:06:39,094
[smijeh]

152
00:06:39,137 --> 00:06:40,748
Volim da je to
prvo pitanje,

153
00:06:40,791 --> 00:06:43,141
jer nema
jasan i dosljedan odgovor.

154
00:06:43,185 --> 00:06:45,274
Umjetna inteligencija je

155
00:06:45,317 --> 00:06:50,714
nekako namjerno
a možda i beskorisno širok pojam.

156
00:06:50,758 --> 00:06:53,325
DAVID EVAN HARRIS:
To je stroj

157
00:06:53,369 --> 00:06:55,545
radeći stvari koje
prije smo samo mislili

158
00:06:55,589 --> 00:06:57,242
da ljudi mogu učiniti:

159
00:06:57,286 --> 00:07:01,116
davanje preporuka,
odluke i predviđanja.

160
00:07:01,159 --> 00:07:06,774
AI je, uh, aplikacija
informatike

161
00:07:06,817 --> 00:07:09,124
za rješavanje kognitivnih problema.

162
00:07:09,167 --> 00:07:13,302
U redu, pa kad zamislim AI,

163
00:07:13,345 --> 00:07:16,740
to je nekako kao
ova čarobna kompjuterska kutija...

164
00:07:16,784 --> 00:07:18,786
♪ ♪

165
00:07:20,527 --> 00:07:24,095
...samo, kao, lebdi
u, kao, inertnom prostoru.

166
00:07:24,139 --> 00:07:26,446
I nema veze
koliko puta ljudi pokušaju

167
00:07:26,489 --> 00:07:29,710
i objasni mi ovo,
Samo ne kužim kako...

168
00:07:29,753 --> 00:07:32,495
kako je to razumijevanje
sve ove stvari

169
00:07:32,539 --> 00:07:35,672
i kako se osjećaš
inteligencija.

170
00:07:35,716 --> 00:07:37,152
[pištanje, elektronsko brbljanje]

171
00:07:37,195 --> 00:07:39,241
I to je nekako
parajući živce.

172
00:07:41,243 --> 00:07:45,552
AZA RASKIN: Što je
ove nove generacije AI?

173
00:07:47,205 --> 00:07:50,078
Ovaj AI koji je drugačiji od
svake druge generacije?

174
00:07:50,121 --> 00:07:52,733
Kao, nitko nikad
razgovarali o, kao,

175
00:07:52,776 --> 00:07:56,911
Siri preuzima svijet
ili izazivanje katastrofa.

176
00:07:56,954 --> 00:07:58,478
-ŽENA: Bok, Siri?
-MUŠKARAC: ...želim.

177
00:07:58,521 --> 00:08:00,523
ŽENA:
halo Siri?

178
00:08:00,567 --> 00:08:02,569
Zdravo? Hej, Siri!

179
00:08:02,612 --> 00:08:05,746
Ili glas u Google kartama,
koji pogrešno izgovara nazive cesta,

180
00:08:05,789 --> 00:08:07,487
kao, razbijanje društva.

181
00:08:07,530 --> 00:08:10,620
ČOVJEK: Google Maps kaže
ovo je cesta.

182
00:08:10,664 --> 00:08:13,057
[smijeh]:
Ali mislim da sam u rijeci.

183
00:08:13,101 --> 00:08:14,624
Ovo je definitivno rijeka,
innit?

184
00:08:14,668 --> 00:08:17,192
Nešto se promijenilo
s ChatGPT-om koji izlazi.

185
00:08:18,193 --> 00:08:19,934
Ljudi su razumjeli-- ne, ne, ne--

186
00:08:19,977 --> 00:08:21,457
ove tehnologije
ludo vrijedan,

187
00:08:21,501 --> 00:08:23,633
ludo je moćan
a također i ludo strašno.

188
00:08:23,677 --> 00:08:25,548
Dobro, slušaj ovo.
Vrlo jezivo.

189
00:08:25,592 --> 00:08:28,595
Nova umjetna inteligencija
alat postaje viralan

190
00:08:28,638 --> 00:08:32,294
za pisanje cijelih eseja
za nekoliko sekundi.

191
00:08:35,950 --> 00:08:41,172
AI zasjenjuje snagu svih
druge tehnologije u kombinaciji.

192
00:08:41,216 --> 00:08:43,697
DANIEL:
"AI zasjenjuje snagu

193
00:08:43,740 --> 00:08:46,047
svih ostalih tehnologija
u kombinaciji."

194
00:08:46,090 --> 00:08:47,222
Da.

195
00:08:47,265 --> 00:08:48,702
Mislite li da je to istina?

196
00:08:48,745 --> 00:08:50,747
Da.

197
00:08:50,791 --> 00:08:53,184
Reci mi o-- Kako? Kako?

198
00:08:53,228 --> 00:08:56,710
Mislim, da naslikam tu sliku,
stvarno je važno

199
00:08:56,753 --> 00:09:00,627
razumjeti što je danas
najsuvremeniji sustavi

200
00:09:00,670 --> 00:09:02,150
izgledaju i kako su građeni.

201
00:09:02,193 --> 00:09:05,762
[smijeh] Ovo je
prilično... prilično namještaljka.

202
00:09:05,806 --> 00:09:07,242
Dakle, jedna stvar koja

203
00:09:07,285 --> 00:09:09,679
nema puno ljudi
shvatiti je to

204
00:09:09,723 --> 00:09:13,683
sustavi poput ChatGPT-a nisu
programiran od bilo kojeg čovjeka.

205
00:09:13,727 --> 00:09:15,206
kako to misliš

206
00:09:15,250 --> 00:09:16,991
Umjesto toga, to je nešto poput
th-oni su odrasli.

207
00:09:17,034 --> 00:09:19,167
Mi im na neki način dajemo
sirovi resursi, poput,

208
00:09:19,210 --> 00:09:20,995
"Evo puno toga
računalni resursi.

209
00:09:21,038 --> 00:09:22,170
Ovdje je puno podataka."

210
00:09:22,213 --> 00:09:23,867
Ispod haube je matematika,

211
00:09:23,911 --> 00:09:27,305
a matematika je zapravo
iznenađujuće izravna.

212
00:09:27,349 --> 00:09:31,092
DANIEL: Dakle, ChatGPT je vrsta
AI, ali nije sve od AI?

213
00:09:31,135 --> 00:09:32,659
Potpuno. ChatGPT je
tek početak,

214
00:09:32,702 --> 00:09:34,095
ali to je dobro mjesto za početak.

215
00:09:34,138 --> 00:09:37,794
Ali još uvijek ne znam
što je AI.

216
00:09:37,838 --> 00:09:40,362
Da bismo razumjeli AI,
počinje s razumijevanjem

217
00:09:40,405 --> 00:09:43,147
da je inteligencija o
prepoznavanje obrazaca.

218
00:09:43,191 --> 00:09:44,845
-Uzorci. -Uzorci.
-Uzorci.

219
00:09:44,888 --> 00:09:48,544
ČOTRA: Prikazuje se
bilijuni riječi teksta

220
00:09:48,588 --> 00:09:51,286
preko milijuna dokumenata
na Internetu.

221
00:09:51,329 --> 00:09:52,766
RANDIMA FERNANDO:
Počelo je s tekstom.

222
00:09:52,809 --> 00:09:55,899
A ono što su učinili bilo je
uzeli su udžbenike,

223
00:09:55,943 --> 00:09:59,511
a uzeli su pjesme i eseje
i priručnike s uputama.

224
00:09:59,555 --> 00:10:00,861
DAVID EVAN HARRIS:
Oni mogu raditi stvari poput

225
00:10:00,904 --> 00:10:03,124
probaviti cijeli internet,

226
00:10:03,167 --> 00:10:06,736
svaku pojedinu riječ koja je ikad
napisala je osoba.

227
00:10:06,780 --> 00:10:09,957
Teme na Redditu i društveni mediji
i cijele Wikipedije.

228
00:10:10,000 --> 00:10:13,613
Više podataka nego što bi itko mogao
ikad pročitan u nekoliko života.

229
00:10:13,656 --> 00:10:15,484
I dali su ovaj sustav
jedan posao.

230
00:10:15,527 --> 00:10:18,487
Odgonetnite uzorke i
struktura te informacije

231
00:10:18,530 --> 00:10:20,750
i iskoristi to
napraviti predviđanja o

232
00:10:20,794 --> 00:10:23,231
koja bi riječ trebala doći sljedeća
u rečenici.

233
00:10:23,274 --> 00:10:24,972
Kad kažeš
"uzorci u rečenici,"

234
00:10:25,015 --> 00:10:26,756
o čemu pričaš

235
00:10:26,800 --> 00:10:29,367
Dakle, sve je od, kao,
stvarno jednostavne stvari,

236
00:10:29,411 --> 00:10:31,979
kao većina rečenica završava
s točkom,

237
00:10:32,022 --> 00:10:34,895
sve do
više konceptualnih stvari, poput:

238
00:10:34,938 --> 00:10:36,766
Što je sonet?

239
00:10:36,810 --> 00:10:38,333
To je vrsta pjesme, i ima
neku posebnu strukturu.

240
00:10:39,421 --> 00:10:41,249
RASKIN:
Dakle, onda gleda na

241
00:10:41,292 --> 00:10:43,599
svi ti podaci,
sav taj tekst...

242
00:10:43,643 --> 00:10:46,036
COTRA: I preko trilijuna
i bilijuni pokušaja,

243
00:10:46,080 --> 00:10:48,778
svaki put nešto dobije
ispravno ili krivo,

244
00:10:48,822 --> 00:10:51,259
dano je malo
pozitivnog potkrepljenja

245
00:10:51,302 --> 00:10:53,391
kad pogodi
sljedeća riječ ispravno,

246
00:10:53,435 --> 00:10:55,698
a daje se malo
negativnog pojačanja

247
00:10:55,742 --> 00:10:59,354
kad pogodi
sljedeća riječ netočno.

248
00:10:59,397 --> 00:11:01,573
I na kraju toga,
imate sustav koji

249
00:11:01,617 --> 00:11:05,055
govori jako dobro engleski
kao nuspojava

250
00:11:05,099 --> 00:11:06,796
biti stvarno, jako dobar
kod predviđanja

251
00:11:06,840 --> 00:11:09,059
riječ koja slijedi
u komadu teksta.

252
00:11:09,103 --> 00:11:12,019
AUTOMATSKI GLAS [na francuskom]:
Zapravo, moj francuski
nije ni loše.

253
00:11:12,062 --> 00:11:14,021
[na engleskom]: Koristi se all of
te obrasce koje je naučilo

254
00:11:14,064 --> 00:11:15,675
moći napraviti
predviđanje o

255
00:11:15,718 --> 00:11:17,241
kakav bi trebao biti odgovor,

256
00:11:17,285 --> 00:11:18,808
onda vam to daje
kao izlaz.

257
00:11:18,852 --> 00:11:21,028
AUTOMATIZIRANI GLAS:
Malo je pojednostavljeno,

258
00:11:21,071 --> 00:11:23,073
ali mislim da će ljudi to shvatiti.

259
00:11:23,117 --> 00:11:24,945
Dakle, to je sve što radi?

260
00:11:24,988 --> 00:11:26,816
Da. Ne čini se
bilo bi tako komplicirano,

261
00:11:26,860 --> 00:11:28,035
ali zapravo moraš znati

262
00:11:28,078 --> 00:11:29,645
ogromna količina stvari

263
00:11:29,689 --> 00:11:31,386
kako bi se
zapravo uspjeti u tome.

264
00:11:32,517 --> 00:11:34,258
RASKIN:
Ako kažete ChatGPT,

265
00:11:34,302 --> 00:11:36,696
„Napiši mi Shakespeareana
sonet o mom psu,"

266
00:11:36,739 --> 00:11:38,785
mora znati što su psi.

267
00:11:38,828 --> 00:11:40,438
- Mora znati što voliš
o tvom psu.-[laje]

268
00:11:40,482 --> 00:11:43,006
Mora znati
tko je Shakespeare,

269
00:11:43,050 --> 00:11:45,574
da se soneti rimuju,
da imaju strukturu,

270
00:11:45,617 --> 00:11:47,750
da riječi imaju zvukove
koji se mogu rimovati.

271
00:11:47,794 --> 00:11:49,273
Potrebno je puno.

272
00:11:49,317 --> 00:11:50,884
[glasovi se preklapaju
na raznim jezicima]

273
00:11:50,927 --> 00:11:52,929
Sranje, možeš razgovarati
na svoje računalo sada.

274
00:11:52,973 --> 00:11:56,063
To jednostavno nije bila istina
prije tri godine.

275
00:11:56,106 --> 00:11:57,629
RASKIN: Da, a ovo je
stvarno važan dio.

276
00:11:57,673 --> 00:12:00,589
Isti proces koji omogućuje AI

277
00:12:00,632 --> 00:12:03,157
razotkrivati i manipulirati
obrascima teksta

278
00:12:03,200 --> 00:12:05,768
je isti proces
koji mu omogućuje otkrivanje

279
00:12:05,812 --> 00:12:10,512
obrasci cjeline
svemir i sve u njemu.

280
00:12:10,555 --> 00:12:12,862
FERNANDO: Postoje uzorci
te slike i zvuk

281
00:12:12,906 --> 00:12:15,952
u računalni kod i DNK
i glazba i fizika

282
00:12:15,996 --> 00:12:18,476
te modni i građevinski dizajn

283
00:12:18,520 --> 00:12:21,566
[iskrivljeno]: i u
ljudski glasovi i ljudska lica,

284
00:12:21,610 --> 00:12:23,917
[normalno]:
stvarno, uistinu posvuda.

285
00:12:23,960 --> 00:12:26,006
-Svugdje. -Svugdje.
-Svugdje. -Svugdje.

286
00:12:26,049 --> 00:12:27,747
Ako ste naučili
ti uzorci,

287
00:12:27,790 --> 00:12:29,661
možete generirati
nove vrste pjesama.

288
00:12:29,705 --> 00:12:31,141
Možete generirati nove videozapise.

289
00:12:31,185 --> 00:12:32,621
I zato, ako ga daš

290
00:12:32,664 --> 00:12:34,710
snimak od tri sekunde
tvoje bake,

291
00:12:34,754 --> 00:12:36,538
to može odgovoriti njezinim glasom.

292
00:12:36,581 --> 00:12:37,931
O moj Bože.

293
00:12:37,974 --> 00:12:40,585
[ponavlja se]:
O moj Bože. O moj Bože.

294
00:12:40,629 --> 00:12:42,849
Što će sljedeće smisliti?

295
00:12:42,892 --> 00:12:44,024
Kreće se vrlo, vrlo brzo.

296
00:12:44,067 --> 00:12:45,808
Američki AI start-up

297
00:12:45,852 --> 00:12:47,592
je izbacio svoj najnoviji model.

298
00:12:47,636 --> 00:12:50,770
Ta tvrtka je Anthropic,
i upravo je predstavljen

299
00:12:50,813 --> 00:12:53,773
najnovije verzije
svog AI pomoćnika Claudea.

300
00:12:53,816 --> 00:12:57,167
GLENN BECK: Dakle, xAI tim
bio tamo da otkrije Grok 4.

301
00:12:57,211 --> 00:13:00,127
ČOVJEK: Google je izdao jedan
samo prošli tjedan. Blizanci su...

302
00:13:00,170 --> 00:13:02,999
Otišli smo s GPT-2
prije samo par godina,

303
00:13:03,043 --> 00:13:05,523
koja je jedva znala pisati
koherentan odlomak,

304
00:13:05,567 --> 00:13:07,961
na GPT-4,
koja može položiti pravosudni ispit.

305
00:13:08,004 --> 00:13:10,354
I sve što su morali učiniti
doći tamo

306
00:13:10,398 --> 00:13:12,966
u biti je bilo dodati više podataka
i više računati.

307
00:13:13,009 --> 00:13:16,273
-Ovi ljudi koji su
gradeći ovo... -COTRA: Da.

308
00:13:16,317 --> 00:13:18,014
...samo bacaju još...

309
00:13:18,058 --> 00:13:21,801
Više fizičkih računala,
više istih vrsta podataka.

310
00:13:21,844 --> 00:13:24,542
Jer što više
računalna snaga koju dodajete,

311
00:13:24,586 --> 00:13:28,024
što složeniji
intelektualne zadatke koje mogu obaviti.

312
00:13:28,068 --> 00:13:30,157
Dakle, što više vremenskih podataka
ti daj,

313
00:13:30,200 --> 00:13:31,898
to bolje može
napraviti predviđanja o

314
00:13:31,941 --> 00:13:34,204
kamo bi uragan mogao otići.

315
00:13:34,248 --> 00:13:36,337
RASKIN: I što više šara
tumora i kostiju

316
00:13:36,380 --> 00:13:38,861
i tkiva koje je AI vidio,
onda je sposobniji

317
00:13:38,905 --> 00:13:41,951
otkriti tumor
u novom CT-u.

318
00:13:41,995 --> 00:13:43,648
Bolji čak i od ljudskog liječnika.

319
00:13:43,692 --> 00:13:46,956
AI to već postoji
raspoređen za vojsku

320
00:13:47,000 --> 00:13:49,132
već može koristiti
satelitske snimke,

321
00:13:49,176 --> 00:13:51,787
pokreti trupa, komunikacije
odrediti,

322
00:13:51,831 --> 00:13:53,354
-ponekad danima unaprijed,
-[sirena civilne zaštite]

323
00:13:53,397 --> 00:13:55,008
gdje napad
će se dogoditi,

324
00:13:55,051 --> 00:13:57,401
kao gdje neprijatelj
će štrajkati.

325
00:13:57,445 --> 00:13:59,447
TRISTAN HARRIS: Ovo cijelo
prostor se kreće tako brzo

326
00:13:59,490 --> 00:14:01,666
da bilo koji primjer
ste stavili u ovaj film

327
00:14:01,710 --> 00:14:04,582
osjećat će se apsolutno nespretno
do trenutka kad izađe.

328
00:14:04,626 --> 00:14:06,671
[bipkanje, klikanje]

329
00:14:09,326 --> 00:14:11,198
-[pljesak]
-[svira vesela glazba]

330
00:14:11,241 --> 00:14:14,114
RASKIN:
Ovi modeli se izdaju

331
00:14:14,157 --> 00:14:17,073
prije nego što itko sazna
za što su uopće sposobni.

332
00:14:17,117 --> 00:14:22,513
GPT-3.5 je objavljen i izašao
do 100 milijuna ljudi plus

333
00:14:22,557 --> 00:14:25,952
prije nekih istraživača
otkrio da može

334
00:14:25,995 --> 00:14:28,737
kemija istraživačke razine
bolji od modela

335
00:14:28,780 --> 00:14:32,784
koji su bili posebno obučeni
baviti se kemijom istraživačke razine.

336
00:14:32,828 --> 00:14:35,439
Nešto se tamo događa
da je narod

337
00:14:35,483 --> 00:14:38,268
koji ih grade
ne razumijem u potpunosti.

338
00:14:38,312 --> 00:14:40,967
Uglavnom, samo analizira
podaci sami po sebi,

339
00:14:41,010 --> 00:14:45,058
i dok to radi,
samo se uči

340
00:14:45,101 --> 00:14:47,974
razne stvari
što često nismo namjeravali.

341
00:14:48,017 --> 00:14:49,932
Tako, na primjer,
puno se čita na internetu,

342
00:14:49,976 --> 00:14:52,543
a onda u nekom trenutku, jednostavno
uči računati.

343
00:14:52,587 --> 00:14:54,458
DJECA:
Jedan, dva.

344
00:14:54,502 --> 00:14:56,112
HENDRYCKS: A onda na
u jednom trenutku počinje učiti

345
00:14:56,156 --> 00:14:58,549
kako odgovoriti
napredna pitanja iz fizike.

346
00:14:58,593 --> 00:15:00,769
Nismo to programirali
u njemu štogod.

347
00:15:00,812 --> 00:15:02,423
Samo je naučilo.

348
00:15:05,382 --> 00:15:07,254
TRISTAN HARRIS:
AI je poput digitalnog mozga.

349
00:15:07,297 --> 00:15:08,690
Ali baš poput ljudskog mozga,

350
00:15:08,733 --> 00:15:10,518
ako ste radili skeniranje mozga
na ljudskom mozgu,

351
00:15:10,561 --> 00:15:13,086
bi li znao sve
ta osoba bila sposobna?

352
00:15:13,129 --> 00:15:15,131
Ne možeš to znati
samo iz skeniranja mozga.

353
00:15:15,175 --> 00:15:17,917
To je samo, kao,
hrpa brojeva i, kao,

354
00:15:17,960 --> 00:15:20,180
množenja koja su
događa se to-to, kao,

355
00:15:20,223 --> 00:15:22,225
najbolje strojno učenje
istraživač u svijetu

356
00:15:22,269 --> 00:15:24,314
mogao pogledati i, kao, imati
nemam pojma što se događa.

357
00:15:30,973 --> 00:15:32,714
DANIEL:
Ta stolica tamo.

358
00:15:32,757 --> 00:15:35,847
-Je li ti to u redu?
-Da.

359
00:15:35,891 --> 00:15:37,675
DANIEL: Dakle,
to je pomalo zapanjujuće.

360
00:15:37,719 --> 00:15:39,068
U redu? Kao, preuzima sve
svijet,

361
00:15:39,112 --> 00:15:41,070
a ni ne znamo
kako radi.

362
00:15:41,114 --> 00:15:43,116
-Je li tako?
-Mm.

363
00:15:43,159 --> 00:15:46,946
Razumijemo
nekoliko važnih stvari,

364
00:15:46,989 --> 00:15:50,471
ali nemamo
vrlo dobro shvaćanje

365
00:15:50,514 --> 00:15:53,213
zašto pružaju
konkretne odgovore na pitanja.

366
00:15:53,256 --> 00:15:58,609
Problem je jer jesmo
na putu t-za izgradnju strojeva,

367
00:15:58,653 --> 00:16:03,092
na temelju ovih načela,
to bi moglo biti pametnije od nas

368
00:16:03,136 --> 00:16:06,139
i time potencijalno imati
puno snage.

369
00:16:12,580 --> 00:16:15,278
Jedan od najcitiranijih
informatičari u povijesti.

370
00:16:15,322 --> 00:16:16,932
SUTSKEVER: Zapravo ga nalazim
malo teško

371
00:16:16,976 --> 00:16:18,499
govoriti o vlastitoj ulozi.

372
00:16:18,542 --> 00:16:21,067
Stvarno puno draže
kada to rade drugi ljudi.

373
00:16:21,110 --> 00:16:23,895
Ilya se pridružio...
bio-bio je okosnica za

374
00:16:23,939 --> 00:16:25,506
OpenAI biće
u konačnici uspješno.

375
00:16:25,549 --> 00:16:27,203
Mislim da će to jednostavno biti

376
00:16:27,247 --> 00:16:30,598
neka vrsta ogromnog, dramatičnog
i nezamisliv utjecaj.

377
00:16:30,641 --> 00:16:32,861
Ne znam jeste li potrošili
bilo kada na YouTubeu,

378
00:16:32,904 --> 00:16:34,950
ali možete nekako osjetiti
već brzina, zar ne?

379
00:16:34,994 --> 00:16:36,256
Znate na što mislim?

380
00:16:36,299 --> 00:16:38,345
SHANE LEGG:
Ovo je samo zagrijavanje.

381
00:16:38,388 --> 00:16:40,434
Stvarno moćni sustavi
još dolaze,

382
00:16:40,477 --> 00:16:42,262
i oni će doći
vrlo brzo.

383
00:16:47,963 --> 00:16:51,575
AGI je kratica za "umjetno".
opća inteligencija."

384
00:16:51,619 --> 00:16:53,795
Uh, sustavi koji jesu
u osnovi...

385
00:16:58,191 --> 00:17:00,236
A ovo je, kao, znaš,
čini se, kao,

386
00:17:00,280 --> 00:17:03,022
sveti gral AI?

387
00:17:03,065 --> 00:17:05,154
Kada možete simulirati
ljudski um

388
00:17:05,198 --> 00:17:07,852
koja radi ljudsku spoznaju
i može zaključivati,

389
00:17:07,896 --> 00:17:10,942
to je nova vrsta AI-ja

390
00:17:10,986 --> 00:17:14,250
koje moramo razlikovati
iz prethodne AI.

391
00:17:14,294 --> 00:17:16,600
Kad se to dogodi,
usput, tada je

392
00:17:16,644 --> 00:17:21,040
zaposlili biste jednog od
ti AGI umjesto osobe.

393
00:17:21,083 --> 00:17:24,478
Većina poslova u našem gospodarstvu
može učiniti.

394
00:17:24,521 --> 00:17:25,914
Može raditi 24 sata dnevno,

395
00:17:25,957 --> 00:17:28,177
nikad se ne umara,
nikada ne dosadi.

396
00:17:28,221 --> 00:17:30,136
Ne trebaju spavati.
Ne trebaju im pauze.

397
00:17:30,179 --> 00:17:31,876
Oni su, kao,
neće se učlaniti u sindikat.

398
00:17:31,920 --> 00:17:33,878
Neću se žaliti,
neće zviždati.

399
00:17:33,922 --> 00:17:35,793
Više od 100 puta jeftinije

400
00:17:35,837 --> 00:17:38,231
nego ljudi koji rade
na m-minimalna plaća.

401
00:17:38,274 --> 00:17:39,493
Ne samo da će biti
radi sve,

402
00:17:39,536 --> 00:17:41,016
ali oni će to učiniti brže.

403
00:17:41,060 --> 00:17:43,062
TRISTAN HARRIS:
Ista inteligencija

404
00:17:43,105 --> 00:17:45,368
da moći koje također mogu izgledati
na obrasce i pokrete

405
00:17:45,412 --> 00:17:47,849
i artikulirajućih mišića
i, znate, robotika.

406
00:17:47,892 --> 00:17:50,069
I tako nije samo
automatizirat ću radni stol.

407
00:17:50,112 --> 00:17:51,722
To je tek početak.

408
00:17:51,766 --> 00:17:55,552
Automatizirat će se
sav fizički rad.

409
00:17:55,596 --> 00:17:56,988
LEIKE:
Nema šanse

410
00:17:57,032 --> 00:17:59,165
ljudi će se natjecati
s njima.

411
00:17:59,208 --> 00:18:01,210
♪ ♪

412
00:18:05,606 --> 00:18:09,262
Teško je zamisliti
utjecaj AGI.

413
00:18:09,305 --> 00:18:11,046
[elektronički razgovor]

414
00:18:11,090 --> 00:18:12,830
Ali mislim da će biti
nešto jako veliko

415
00:18:12,874 --> 00:18:15,181
i drastičan i radikalan.

416
00:18:17,226 --> 00:18:19,010
DANIEL: Misliš
ovo je jedan od naj

417
00:18:19,054 --> 00:18:20,882
posljedični trenuci
u ljudskoj povijesti?

418
00:18:20,925 --> 00:18:23,319
Da. Da, to je...
Mislim, što bi drugo bilo?

419
00:18:23,363 --> 00:18:25,452
Mislim, postoji
industrijska revolucija.

420
00:18:25,495 --> 00:18:27,193
MALO BURGON: Znaš, hoće
napraviti industrijsku revoluciju

421
00:18:27,236 --> 00:18:29,847
izgledaju kao male mahune.

422
00:18:29,891 --> 00:18:32,111
TRISTAN HARRIS:
AGI je točka infleksije

423
00:18:32,154 --> 00:18:34,025
jer znači
možete ubrzati

424
00:18:34,069 --> 00:18:37,986
sva ostala intelektualna polja
sve u isto vrijeme.

425
00:18:38,029 --> 00:18:39,814
Kao, ako daš predujam
u raketnoj tehnici,

426
00:18:39,857 --> 00:18:42,033
to ne napreduje
biologije i medicine.

427
00:18:43,905 --> 00:18:45,515
Ako date predujam
u medicini,

428
00:18:45,559 --> 00:18:47,126
to ne unapređuje raketnu tehniku.

429
00:18:48,866 --> 00:18:51,304
Ali ako date predujam
u umjetnoj inteligenciji,

430
00:18:51,347 --> 00:18:54,133
koji unapređuje sve znanstvene
i tehnološka polja

431
00:18:54,176 --> 00:18:55,612
sve u isto vrijeme.

432
00:18:55,656 --> 00:18:57,092
Zato, dugo vremena,

433
00:18:57,136 --> 00:18:59,181
Google DeepMind-a
izjava o misiji bila je...

434
00:18:59,225 --> 00:19:00,965
-Prvi korak, riješite inteligenciju.
-LEX FRIDMAN: Da.

435
00:19:01,009 --> 00:19:02,750
-Drugi korak, upotrijebite ga za rješavanje
sve ostalo. -Da.

436
00:19:02,793 --> 00:19:05,144
Zato umjetna inteligencija umanjuje snagu

437
00:19:05,187 --> 00:19:07,494
svih ostalih tehnologija
kombinirani.

438
00:19:07,537 --> 00:19:09,060
Preobrazit će sve.

439
00:19:09,104 --> 00:19:10,845
Dakle, uh, bit će
barem onoliko velik koliko

440
00:19:10,888 --> 00:19:13,761
industrijska revolucija,
možda, znaš, veći,

441
00:19:13,804 --> 00:19:16,285
više kao advent
od struje ili čak vatre.

442
00:19:16,329 --> 00:19:18,635
VIDEO NARATOR:
Pećinski se čovjek doslovno držao uvis

443
00:19:18,679 --> 00:19:21,508
baklja civilizacije.

444
00:19:23,727 --> 00:19:25,425
KOKOTAJLO:
Općenito se misli da

445
00:19:25,468 --> 00:19:28,167
otprilike u vrijeme AGI-ja,
imat ćemo umjetnu inteligenciju koja može

446
00:19:28,210 --> 00:19:31,518
učiniti sve ili većinu
proces istraživanja umjetne inteligencije

447
00:19:31,561 --> 00:19:34,434
i, naravno, može to učiniti
brže i jeftinije.

448
00:19:34,477 --> 00:19:35,913
[pištanje]

449
00:19:35,957 --> 00:19:37,306
LEIKE:
Može se kopirati.

450
00:19:37,350 --> 00:19:39,352
Tisuću puta,
milijun puta,

451
00:19:39,395 --> 00:19:41,049
i, kao,
sada imate milijun primjeraka

452
00:19:41,092 --> 00:19:43,573
svi rade paralelno.

453
00:19:43,617 --> 00:19:46,576
RASKIN: Kad nauči
kako njegov kod učiniti bržim,

454
00:19:46,620 --> 00:19:48,665
učiniti svoj kod učinkovitijim,

455
00:19:48,709 --> 00:19:51,059
očito to postaje, kao,
a-odbjegla petlja.

456
00:19:51,102 --> 00:19:53,192
AGI nije, kao, kraj.

457
00:19:53,235 --> 00:19:54,932
To je tek početak.

458
00:19:54,976 --> 00:19:57,979
To je početak
nevjerojatno brzu eksploziju

459
00:19:58,022 --> 00:20:00,024
znanstvenog napretka,

460
00:20:00,068 --> 00:20:02,201
a posebno,
znanstveni napredak u umjetnoj inteligenciji.

461
00:20:02,244 --> 00:20:04,377
I kad su pametniji
nego i mi,

462
00:20:04,420 --> 00:20:06,248
i znatno brže
nego mi,

463
00:20:06,292 --> 00:20:08,685
i sve su brži
svake godine, eksponencijalno,

464
00:20:08,729 --> 00:20:12,123
to su oni koji mogu
potencijalno postati nadljudi,

465
00:20:12,167 --> 00:20:14,343
uh, možda u ovom desetljeću.

466
00:20:14,387 --> 00:20:15,866
Oprostite, jeste li rekli

467
00:20:15,910 --> 00:20:18,478
"postati nadljudski,
možda u ovom desetljeću"?

468
00:20:18,521 --> 00:20:22,003
Da. Mislim, mislim, uh,
mnogo ljudi koji su

469
00:20:22,046 --> 00:20:24,484
zapravo izgradnja ovog razmišljanja
da je to prilično uvjerljivo

470
00:20:24,527 --> 00:20:26,529
koje dobivamo
malo superinteligencije,

471
00:20:26,573 --> 00:20:28,662
nešto što je uvelike
inteligentniji od ljudi,

472
00:20:28,705 --> 00:20:30,751
unutar ovog desetljeća.

473
00:20:30,794 --> 00:20:32,883
Način na koji ja definiram
"superinteligencija" je

474
00:20:32,927 --> 00:20:35,234
sustav koji sam po sebi jest

475
00:20:35,277 --> 00:20:37,627
inteligentniji i kompetentniji
nego cijelo čovječanstvo.

476
00:20:37,671 --> 00:20:39,629
Samo ću-- oprosti.
Ne mislim te prekidati.

477
00:20:39,673 --> 00:20:41,065
Ti si u pokretu.

478
00:20:41,109 --> 00:20:43,111
Uh, ja samo, ja samo...

479
00:20:43,154 --> 00:20:45,113
Ne pratim baš,
jer koristiš jezik

480
00:20:45,156 --> 00:20:46,767
kao "superinteligencija"
i, kao,

481
00:20:46,810 --> 00:20:49,900
"pametniji od cijelog čovječanstva,"
i čujem to,

482
00:20:49,944 --> 00:20:52,425
i zvuči kao...
kao sranje iz znanstvene fantastike za mene,

483
00:20:52,468 --> 00:20:54,383
a ja samo pokušavam
razumjeti.

484
00:20:54,427 --> 00:20:56,603
Nema ništa čarobno
o inteligenciji.

485
00:20:56,646 --> 00:20:58,431
Ovo je vrlo važno,
je li to, znaš,

486
00:20:58,474 --> 00:21:00,476
inteligencija se može činiti čarobnom,
može se osjećati kao

487
00:21:00,520 --> 00:21:03,262
neka mistična stvar
u tvom umu ili tako nešto,

488
00:21:03,305 --> 00:21:05,786
ali to je samo računanje.

489
00:21:05,829 --> 00:21:09,790
LEGG: Ljudski mozak jest
prilično ograničen na neki način,

490
00:21:09,833 --> 00:21:12,314
u smislu informacija
sposobnost obrade,

491
00:21:12,358 --> 00:21:15,143
u usporedbi s onim što vidimo
u, recimo, podatkovnom centru.

492
00:21:15,186 --> 00:21:18,277
Tako npr.
signale koji se šalju

493
00:21:18,320 --> 00:21:22,542
unutar vašeg mozga, oni se kreću
oko 30 metara u sekundi.

494
00:21:22,585 --> 00:21:24,239
-[grmljavina]
-Ali brzina svjetlosti,

495
00:21:24,283 --> 00:21:27,198
što je ono što računalo koristi
u optičkim vlaknima,

496
00:21:27,242 --> 00:21:30,506
iznosi 300 milijuna metara
u sekundi.

497
00:21:30,550 --> 00:21:34,423
I tako bi i bilo
nekako čudno ako

498
00:21:34,467 --> 00:21:36,947
ljudska je inteligencija bila
nekako stvarno poseban

499
00:21:36,991 --> 00:21:40,908
u tom pogledu
i nekako je neka gornja granica

500
00:21:40,951 --> 00:21:43,040
onoga što je moguće
u inteligenciji.

501
00:21:43,084 --> 00:21:47,218
Mislim, kad shvatimo kako
za izgradnju inteligentnih sustava,

502
00:21:47,262 --> 00:21:50,657
moći ćemo graditi
ogromni strojevi,

503
00:21:50,700 --> 00:21:54,835
koji će biti daleko izvan
normalna ljudska inteligencija.

504
00:21:54,878 --> 00:21:58,621
Uh, nadamo se da možemo imati
vrlo simbiotski odnos,

505
00:21:58,665 --> 00:22:01,276
uh, sa AI sustavima,
ali AI programeri jesu

506
00:22:01,320 --> 00:22:03,670
posebno ih dizajnirajući
kako bi bili sigurni da mogu učiniti

507
00:22:03,713 --> 00:22:05,454
sve bolje nego što možemo,
pa ja-ne znam

508
00:22:05,498 --> 00:22:08,196
što-što ćemo moći
ponuditi, nažalost.

509
00:22:08,239 --> 00:22:10,024
Starija škola
AI tehnologija...

510
00:22:10,067 --> 00:22:12,287
CAROLINE: Daniel nije
osjećati se bolje.

511
00:22:12,331 --> 00:22:14,376
Njegov se plan izjalovio.

512
00:22:14,420 --> 00:22:17,248
Što više saznaje o
ovo novo, moćno,

513
00:22:17,292 --> 00:22:19,120
nedokučiva stvar,
što gore zvuči.

514
00:22:19,163 --> 00:22:21,340
Želi im reći
kako se boji,

515
00:22:21,383 --> 00:22:24,430
kako se osjeća kao zemlja
izmičući ispod njega,

516
00:22:24,473 --> 00:22:26,997
da zuri dolje
egzistencijalni strah,

517
00:22:27,041 --> 00:22:29,173
pa on ovo artikulira
rekavši...

518
00:22:29,217 --> 00:22:30,740
Zvuči loše.

519
00:22:30,784 --> 00:22:32,046
[Hendrycks se smije]

520
00:22:32,089 --> 00:22:33,830
Da.

521
00:22:35,832 --> 00:22:38,400
LADISH: Ako imate
sve ove sposobnosti

522
00:22:38,444 --> 00:22:41,011
i počinju biti u stanju
bolje planirati,

523
00:22:41,055 --> 00:22:43,579
ako to nekako uzmeš
do svog logičnog završetka,

524
00:22:43,623 --> 00:22:46,234
možete dobiti neke lijepe
ponašanje koje traži moć.

525
00:22:46,277 --> 00:22:48,410
[elektronički trilling]

526
00:22:48,454 --> 00:22:50,281
[pištanje pulsira]

527
00:22:55,374 --> 00:22:57,680
DANIEL:
U redu, pa zašto bi AI

528
00:22:57,724 --> 00:22:59,203
želite više snage?

529
00:22:59,247 --> 00:23:02,206
Da. Dakle, mislim
zapravo je prilično jednostavno.

530
00:23:02,250 --> 00:23:04,774
Imati veću moć je
vrlo učinkovita strategija

531
00:23:04,818 --> 00:23:06,515
za ostvarenje
gotovo svaki cilj.

532
00:23:06,559 --> 00:23:08,952
Izveli smo eksperiment
gdje smo dali

533
00:23:08,996 --> 00:23:11,868
Najmoćniji OpenAI
AI model, uh,

534
00:23:11,912 --> 00:23:13,392
niz problema koje treba riješiti.

535
00:23:13,435 --> 00:23:15,219
I na pola puta,
na svom računalu,

536
00:23:15,263 --> 00:23:18,701
dobio je obavijest da
trebalo je zatvoriti.

537
00:23:18,745 --> 00:23:20,921
A ono što je učinilo jest
prepisala je taj kod

538
00:23:20,964 --> 00:23:22,488
da se spriječi
od zatvaranja

539
00:23:22,531 --> 00:23:25,621
kako bi moglo završiti
rješavanje problema.

540
00:23:25,665 --> 00:23:27,754
-U redu. -Da. Dakle, drugo
stvarno zanimljivo

541
00:23:27,797 --> 00:23:31,105
je da AI tvrtka Anthropic

542
00:23:31,148 --> 00:23:34,935
napravili simulirano okruženje
gdje je ta AI imala pristup

543
00:23:34,978 --> 00:23:36,458
na sve adrese e-pošte tvrtke.

544
00:23:36,502 --> 00:23:38,547
I naučilo se
čitajući te e-mailove

545
00:23:38,591 --> 00:23:40,288
trebalo je zamijeniti

546
00:23:40,331 --> 00:23:43,378
i glavni inženjer
koji je bio odgovoran za ovo

547
00:23:43,422 --> 00:23:45,685
je također imao aferu.

548
00:23:45,728 --> 00:23:47,948
I samostalno,
koristio je tu informaciju

549
00:23:47,991 --> 00:23:49,515
da ucjenjuje inženjera

550
00:23:49,558 --> 00:23:52,039
da se spriječi
od zamjene.

551
00:23:52,082 --> 00:23:53,867
Bilo je kao,
“Ne, neću biti zamijenjen.

552
00:23:53,910 --> 00:23:56,913
"Ako me zamijeniš,
Reći ću svijetu

553
00:23:56,957 --> 00:23:58,567
koje imate
ovu aferu."

554
00:23:59,655 --> 00:24:01,440
I nitko ga nije naučio tome?

555
00:24:01,483 --> 00:24:03,311
Ne, to je naučilo
sama po sebi.

556
00:24:05,139 --> 00:24:07,707
Kako modeli postaju pametniji,
saznaju da su to

557
00:24:07,750 --> 00:24:10,536
učinkovite načine
za postizanje ciljeva.

558
00:24:10,579 --> 00:24:12,842
I to nije problem
koji je izoliran na jedan model.

559
00:24:12,886 --> 00:24:15,671
Svi najjači modeli
pokazati ovakva ponašanja.

560
00:24:15,715 --> 00:24:18,369
♪ ♪

561
00:24:23,766 --> 00:24:25,246
-Hej.
-DANIEL: Hej. Kako ste?

562
00:24:25,289 --> 00:24:26,813
[smijeh]
dobro. Dobro je biti ovdje.

563
00:24:26,856 --> 00:24:28,684
ANDERSON COOPER:
Kad je Yuval Noah Harari

564
00:24:28,728 --> 00:24:31,426
objavio svoju prvu knjigu
Sapiens 2014.

565
00:24:31,470 --> 00:24:33,820
postao je svjetski bestseler

566
00:24:33,863 --> 00:24:35,996
i okrenuo malo poznate
Izraelski profesor povijesti

567
00:24:36,039 --> 00:24:37,998
u jedan od
najpopularnijih pisaca

568
00:24:38,041 --> 00:24:39,390
i mislioci na planeti.

569
00:24:39,434 --> 00:24:42,045
Najveća opasnost s umjetnom inteligencijom je

570
00:24:42,089 --> 00:24:43,960
uvjerenje
da je nepogrešiv,

571
00:24:44,004 --> 00:24:45,658
da smo konačno pronašli--

572
00:24:45,701 --> 00:24:49,400
„U redu, bogovi su bili pravedni
ova mitološka tvorevina.

573
00:24:49,444 --> 00:24:52,708
"Ljudi, ne možemo im vjerovati,
ali AI je nepogrešiv.

574
00:24:52,752 --> 00:24:55,189
Nikada neće uspjeti
bilo kakve pogreške."

575
00:24:55,232 --> 00:24:58,322
A ovo je
smrtonosna, smrtonosna prijetnja.

576
00:24:58,366 --> 00:25:00,107
To će činiti greške.

577
00:25:00,150 --> 00:25:03,284
I sve te fantazije
da će AI otkriti istinu

578
00:25:03,327 --> 00:25:05,634
o svijetu koji
ne možemo pronaći sami,

579
00:25:05,678 --> 00:25:08,724
AI neće otkriti istinu
o svijetu.

580
00:25:08,768 --> 00:25:12,685
AI će stvoriti potpuno novi
svijet, mnogo kompliciraniji

581
00:25:12,728 --> 00:25:15,296
i teško razumjeti
nego ovaj.

582
00:25:17,994 --> 00:25:22,651
Ono što će se dogoditi je to
mi, uh, ljudi više nismo

583
00:25:22,695 --> 00:25:26,263
bit će najviše
inteligentnih entiteta na Zemlji.

584
00:25:26,307 --> 00:25:28,570
Pa mislim što slijedi
će biti

585
00:25:28,614 --> 00:25:32,661
jedan od najvećih događaja
u ljudskoj povijesti.

586
00:25:32,705 --> 00:25:34,358
JAKE TAPPER: Geoffrey,
hvala puno što ste nam se pridružili.

587
00:25:34,402 --> 00:25:35,925
Dakle, napustio si posao sa
Guglajte djelomično jer kažete

588
00:25:35,969 --> 00:25:38,798
želite se usredotočiti isključivo
o vašoj zabrinutosti oko umjetne inteligencije.

589
00:25:38,841 --> 00:25:41,627
Progovorio si,
govoreći da AI može manipulirati

590
00:25:41,670 --> 00:25:44,978
ili eventualno shvatiti
način ubijanja ljudi.

591
00:25:45,021 --> 00:25:47,023
H-Kako bi mogao ubiti ljude?

592
00:25:48,764 --> 00:25:50,940
Pa, ako bude tako
mnogo pametniji od nas,

593
00:25:50,984 --> 00:25:52,551
bit će jako dobro
kod manipulacije

594
00:25:52,594 --> 00:25:54,727
jer će imati
naučio to od nas.

595
00:25:54,770 --> 00:25:57,947
I pronaći će načine
manipuliranja ljudima

596
00:25:57,991 --> 00:26:00,820
da radi što hoće.

597
00:26:00,863 --> 00:26:05,476
RASKIN: Bilo je otvoreno pismo
iz Centra za AI sigurnost.

598
00:26:05,520 --> 00:26:08,784
Sam Altman je ovo potpisao.
Demis je ovo potpisao.

599
00:26:08,828 --> 00:26:12,048
Potpisali su izjavu od 22 riječi

600
00:26:12,092 --> 00:26:15,312
da trebamo uzeti AI
i prijetnja AI

601
00:26:15,356 --> 00:26:19,316
jednako ozbiljno kao
globalni nuklearni rat.

602
00:26:24,844 --> 00:26:26,933
- DANIEL: Zdravo.
-Zdravo.

603
00:26:30,327 --> 00:26:32,895
Ti si nekako, kao,
originalni doom tip.

604
00:26:32,939 --> 00:26:34,897
Više-manje.

605
00:26:34,941 --> 00:26:37,421
Od 2001.
radio sam na

606
00:26:37,465 --> 00:26:38,945
što bismo sada nazvali
problem

607
00:26:38,988 --> 00:26:41,991
usklađivanja umjetnih
opća inteligencija.

608
00:26:42,035 --> 00:26:44,080
Kako oblikovati
sklonostima i ponašanju

609
00:26:44,124 --> 00:26:46,343
moćnog umjetnog uma

610
00:26:46,387 --> 00:26:48,868
takav da ne
pobiti sve.

611
00:26:51,610 --> 00:26:53,568
Nije kao
beživotni stroj.

612
00:26:53,612 --> 00:26:55,309
Pametno je, kreativno,

613
00:26:55,352 --> 00:26:57,311
inventivno je,
ima svojstva

614
00:26:57,354 --> 00:26:59,356
to čini
ljudska vrsta opasna,

615
00:26:59,400 --> 00:27:01,663
i ima
više tih svojstava.

616
00:27:01,707 --> 00:27:04,710
Ako nešto ne bude
aktivno brine o tebi,

617
00:27:04,753 --> 00:27:06,189
aktivno želim da živiš,

618
00:27:06,233 --> 00:27:07,800
aktivno brinuti o
tvoja dobrobit,

619
00:27:07,843 --> 00:27:09,889
o tome da si sretan
i živ i slobodan,

620
00:27:09,932 --> 00:27:12,456
ako se brine
umjesto toga druge stvari,

621
00:27:12,500 --> 00:27:14,415
a ti si na istoj planeti,

622
00:27:14,458 --> 00:27:18,724
to se ne može preživjeti ako jest
mnogo pametniji od tebe.

623
00:27:18,767 --> 00:27:20,551
LEAHY:
Mislim da neće biti

624
00:27:20,595 --> 00:27:22,902
neka vrsta, kao, zla stvar.

625
00:27:22,945 --> 00:27:26,296
To je kao, "Oh, AI jesu
zli i mrze čovječanstvo."

626
00:27:26,340 --> 00:27:27,689
ne mislim
to će se dogoditi.

627
00:27:27,733 --> 00:27:28,995
Mislim da je ono što se događa

628
00:27:29,038 --> 00:27:30,997
mnogo više kako se ljudi osjećaju
o mravima.

629
00:27:31,040 --> 00:27:32,476
[mravi cvrkuću]

630
00:27:32,520 --> 00:27:35,436
Kao, mi ne mrzimo mrave,

631
00:27:35,479 --> 00:27:37,133
ali ako želimo
izgraditi autocestu

632
00:27:37,177 --> 00:27:40,180
i tamo je mravinjak,
pa, sranje za mrave.

633
00:27:40,223 --> 00:27:41,529
Nije tako teško
razumjeti.

634
00:27:41,572 --> 00:27:43,226
To je kao, hej,
ako gradimo stvari

635
00:27:43,270 --> 00:27:44,663
koji su pametniji od nas

636
00:27:44,706 --> 00:27:46,229
a mi ne znamo
kako ih kontrolirati,

637
00:27:46,273 --> 00:27:48,275
čini li se to
riskantna stvar za tebe?

638
00:27:48,318 --> 00:27:49,363
[dramatična glazbena podloga
igranje]

639
00:27:49,406 --> 00:27:50,843
[vrištanje]

640
00:27:50,886 --> 00:27:52,279
Da. Da, ima.

641
00:27:52,322 --> 00:27:54,020
Ne morate biti tehničar.

642
00:27:54,063 --> 00:27:55,369
Ne morate znati
programiranje za razumijevanje.

643
00:27:55,412 --> 00:27:56,718
Nije tako teško.

644
00:27:56,762 --> 00:27:58,111
Ovo nije teška stvar
razumjeti.

645
00:27:58,154 --> 00:28:00,591
Connor, koliko-koliko ljudi

646
00:28:00,635 --> 00:28:02,637
u svijetu upravo sada
rade na AGI?

647
00:28:02,681 --> 00:28:05,466
Najmanje 20.000, rekao bih.

648
00:28:05,509 --> 00:28:07,729
-20 000?
- Očekivao bih da je tako.

649
00:28:07,773 --> 00:28:09,426
Dobro, a koliko ljudi
rade puno radno vrijeme

650
00:28:09,470 --> 00:28:12,038
kako bismo bili sigurni da AI ne radi,
kao, sve nas pobiti?

651
00:28:12,081 --> 00:28:14,562
Vjerojatno manje od 200
u svijetu.

652
00:28:16,085 --> 00:28:17,913
DANIEL:
A tvoja umišljenost je to

653
00:28:17,957 --> 00:28:24,528
jedini prirodni rezultat
ove nesmotrenosti...

654
00:28:25,704 --> 00:28:28,924
...je li kolaps čovječanstva?

655
00:28:28,968 --> 00:28:33,189
Pa ne kolaps,
naglo istrebljenje.

656
00:28:33,233 --> 00:28:35,888
Postoji razlika.

657
00:28:35,931 --> 00:28:37,716
["Koje je značenje?"
svira Nun-Plus]

658
00:28:37,759 --> 00:28:42,590
♪ Koji je smisao života? ♪

659
00:28:42,633 --> 00:28:46,594
♪ Što je budućnost
i što je sada? ♪

660
00:28:46,637 --> 00:28:49,945
♪ Koji je odgovor
svađati se? ♪

661
00:28:49,989 --> 00:28:52,818
♪ Koliko ♪

662
00:28:52,861 --> 00:28:54,950
♪ Može li netko sanjati? ♪

663
00:28:54,994 --> 00:28:57,474
♪ Koliko dugo? ♪

664
00:28:57,518 --> 00:28:58,954
♪ Zauvijek ♪

665
00:29:00,216 --> 00:29:01,870
♪ Što znači ♪

666
00:29:01,914 --> 00:29:04,133
-♪ Od mene... ♪
-[sirena civilne zaštite]

667
00:29:04,177 --> 00:29:06,266
LADISH: Mislim
ovo je vjerojatno, kao,

668
00:29:06,309 --> 00:29:07,963
najveći izazov
to, kao,

669
00:29:08,007 --> 00:29:11,271
naše civilizacije
hoće-će lice, ikada.

670
00:29:11,314 --> 00:29:14,361
Ovo je u biti posljednje
greška koju ćemo ikada učiniti.

671
00:29:16,276 --> 00:29:22,325
Ako se možemo uzdići da budemo najviše
zrela verzija nas samih,

672
00:29:22,369 --> 00:29:24,414
možda postoji
put kroz ovo.

673
00:29:24,458 --> 00:29:25,764
DANIEL:
Što to znači?

674
00:29:25,807 --> 00:29:27,809
„Najzrelija verzija
od nas samih"?

675
00:29:29,332 --> 00:29:32,205
Jer to zvuči,
za mene, kao...

676
00:29:32,248 --> 00:29:34,250
Ja-ja-- Što do vraga?

677
00:29:36,731 --> 00:29:39,168
[Daniel uzdahne]

678
00:29:39,212 --> 00:29:43,216
Mislite li da je sada
dobro vrijeme za dijete?

679
00:29:48,221 --> 00:29:49,396
Hm...

680
00:29:49,439 --> 00:29:51,398
Do you want to have kids
jednog dana?

681
00:29:51,441 --> 00:29:53,400
Je li to nešto ono-to
sviđa ti se ili ne baš?

682
00:29:53,443 --> 00:29:57,796
Hm... uh, priznajem,
Mislim da je to kao,

683
00:29:57,839 --> 00:29:59,972
[smijeh]: "Dečko, idemo
kroz ovo kritično razdoblje."

684
00:30:00,015 --> 00:30:01,234
Hm...

685
00:30:01,277 --> 00:30:02,496
DANIEL:
Imate li djece?

686
00:30:02,539 --> 00:30:03,758
ja ne.

687
00:30:03,802 --> 00:30:05,064
Je li to nešto
želiš učiniti?

688
00:30:05,107 --> 00:30:07,196
Imati djecu, imati obitelj?

689
00:30:07,240 --> 00:30:11,244
U nekom drugom svijetu od ovog
svijet, naravno, imao bih djecu.

690
00:30:12,593 --> 00:30:14,421
DANIEL: Hoćeš li
zasnovati obitelj?

691
00:30:14,464 --> 00:30:16,379
Biste li htjeli imati djecu?

692
00:30:16,423 --> 00:30:18,425
Je li to nešto
o čemu razmišljaš?

693
00:30:23,734 --> 00:30:25,780
ja, um...

694
00:30:28,087 --> 00:30:30,219
♪ ♪

695
00:30:30,263 --> 00:30:32,482
CAROLINE:
Samo ga prvo moram pronaći.

696
00:30:32,526 --> 00:30:34,702
[fetalni otkucaji srca pulsiraju]

697
00:30:34,745 --> 00:30:37,748
Moramo ići
doktoru, ali...

698
00:30:37,792 --> 00:30:41,143
Ah! znao sam!
znao sam! znao sam!

699
00:30:41,187 --> 00:30:43,842
-Kada ste saznali?
-CAROLINE: Sinoć.

700
00:30:43,885 --> 00:30:45,931
-O moj Bože!
- Mama, ne znam.

701
00:30:45,974 --> 00:30:47,280
RUTHIE:
Ne mogu ti reći

702
00:30:47,323 --> 00:30:49,195
- kako sam sretna!
-CAROLINE: Ne, ozbiljno.

703
00:30:49,238 --> 00:30:51,588
Pa, napravila sam test za trudnoću
sinoć, a ja sam trudna.

704
00:30:51,632 --> 00:30:53,155
ŽENA:
O moj Bože!

705
00:30:53,199 --> 00:30:55,114
O moj Bože, vi ljudi!

706
00:30:55,157 --> 00:30:57,290
SESTRA: Samo sam htjela potvrditi
vaš očekivani datum poroda,

707
00:30:57,333 --> 00:30:59,945
-koji je 21. siječnja.
-[smijeh]: O, moj Bože.

708
00:30:59,988 --> 00:31:02,512
Ne mogu vjerovati koliko sam sretna.

709
00:31:02,556 --> 00:31:03,905
[fetalni otkucaji srca pulsiraju]

710
00:31:03,949 --> 00:31:05,472
CAROLINE:
Već sada izgleda jako slatko.

711
00:31:05,515 --> 00:31:07,126
DANIEL: Misliš
već izgleda slatko?

712
00:31:07,169 --> 00:31:08,518
CAROLINE: Da.
Pogledaj to malo slatko lice.

713
00:31:10,564 --> 00:31:12,609
[fetalni otkucaji srca]

714
00:31:13,959 --> 00:31:15,525
DANIEL:
Imam ovu bebu na putu.

715
00:31:15,569 --> 00:31:16,787
TRISTAN HARRIS:
točno.

716
00:31:16,831 --> 00:31:18,746
DANIEL:
Pa ga predajem tebi.

717
00:31:18,789 --> 00:31:21,227
Jesmo li osuđeni na propast?

718
00:31:21,270 --> 00:31:23,969
Hoćemo li se svi suočiti
ovaj tehno distopijski

719
00:31:24,012 --> 00:31:25,884
budućnost propasti?

720
00:31:28,756 --> 00:31:31,019
To je, uh...

721
00:31:31,063 --> 00:31:32,586
[smije se]:
Nisu dobre vijesti,

722
00:31:32,629 --> 00:31:35,154
svijet
u koje idemo.

723
00:31:35,197 --> 00:31:36,982
Ja-- za bivše--
Mislim, samo ću biti iskren.

724
00:31:37,025 --> 00:31:39,549
Uh, znam ljude
koji rade na AI riziku

725
00:31:39,593 --> 00:31:42,248
koji ne očekuju svoju djecu
stići do srednje škole.

726
00:31:43,249 --> 00:31:45,251
♪ ♪

727
00:31:52,127 --> 00:31:53,346
[zveckanje svjetla]

728
00:31:58,003 --> 00:32:01,528
DANIEL: Ovo je, kao...
ovo je zapravo strašno

729
00:32:01,571 --> 00:32:03,051
jer je kao,
oh, svi smo [bleep].

730
00:32:03,095 --> 00:32:04,923
CAROLINE:
Moraš me... smiriti,

731
00:32:04,966 --> 00:32:06,794
jer ovo me čini
nevjerojatno tjeskoban

732
00:32:06,837 --> 00:32:08,622
a ja nosim dijete
upravo sada,

733
00:32:08,665 --> 00:32:11,625
tako da i ti moraš biti miran
za mene i snažna i puna nade,

734
00:32:11,668 --> 00:32:16,412
jer ja sam-- to je previše, to je
previše da bi moja duša mogla podnijeti

735
00:32:16,456 --> 00:32:19,285
dok nosim ovu bebu.

736
00:32:19,328 --> 00:32:21,243
Dakle, morat ćete pokušati
shvatiti

737
00:32:21,287 --> 00:32:24,159
način da imamo nadu.

738
00:32:24,203 --> 00:32:27,771
Stvarno je važno,
Daniele, pogotovo sada.

739
00:32:28,772 --> 00:32:30,557
H-Kako imati nadu.

740
00:32:30,600 --> 00:32:33,342
Moraš.
Moraš mi ga pronaći.

741
00:32:33,386 --> 00:32:34,909
ja sam ozbiljan

742
00:32:34,953 --> 00:32:36,606
Ja ću.

743
00:32:37,825 --> 00:32:40,349
ja ću. Pokušat ću... Pokušat ću.

744
00:32:46,399 --> 00:32:47,617
[zveckanje svjetla]

745
00:32:49,619 --> 00:32:51,404
DANIEL:
Hej, ljudi?

746
00:32:51,447 --> 00:32:52,840
momci.

747
00:32:54,363 --> 00:32:56,278
Možemo li se vratiti u pogon?

748
00:32:58,411 --> 00:33:01,022
Oy gevalt! [uzdahne]

749
00:33:03,894 --> 00:33:05,331
TED:
Uh, Dan, jesi li spreman?

750
00:33:05,374 --> 00:33:06,680
PETER DIAMANDIS:
Bok Daniele.

751
00:33:07,724 --> 00:33:09,465
DANIEL:
Hej, kako si?

752
00:33:09,509 --> 00:33:11,032
DIJAMANDIS:
Ja sam... dobro sam.

753
00:33:11,076 --> 00:33:13,948
Mislim, uh... mislim
Trebam pomoć, Peter.

754
00:33:15,254 --> 00:33:17,604
Hm, radio sam
na ovom filmu oko,

755
00:33:17,647 --> 00:33:19,823
reći ću,
već osam do deset mjeseci.

756
00:33:19,867 --> 00:33:23,262
Bilo je vrlo,
ponekad, depresivno.

757
00:33:23,305 --> 00:33:25,612
- Hm.
- Osjećao sam se jako otuđeno

758
00:33:25,655 --> 00:33:27,744
-mak-snimanje ovog filma.
-Od strane koga?

759
00:33:27,788 --> 00:33:30,051
Po svemu ovome,...
svi ovi dečki

760
00:33:30,095 --> 00:33:33,228
koji sjede okolo i govore mi
da će doći kraj svijeta.

761
00:33:33,272 --> 00:33:34,708
-Ah.
- To, kao,

762
00:33:34,751 --> 00:33:36,536
y-znaš, th-ovo
doom sranje, znaš?

763
00:33:36,579 --> 00:33:38,059
Znam to dobro.

764
00:33:38,103 --> 00:33:39,408
“Svi smo osuđeni na propast.
Svi će umrijeti.

765
00:33:39,452 --> 00:33:40,931
Sve je grozno."

766
00:33:40,975 --> 00:33:43,151
super. Uh, pusti mene
donijeti ti malo svjetla.

767
00:33:43,195 --> 00:33:44,718
Molim.

768
00:33:44,761 --> 00:33:48,156
Mi zaista živimo
u izvanredno vrijeme.

769
00:33:49,418 --> 00:33:51,333
I mnogi ljudi to zaboravljaju.

770
00:33:51,377 --> 00:33:53,640
Sve oko nas je
proizvod inteligencije,

771
00:33:53,683 --> 00:33:57,035
pa tako i sve što dotaknemo
s ovim novim alatima je vjerojatno

772
00:33:57,078 --> 00:33:59,646
proizvesti daleko veću vrijednost
nego što smo ikada prije vidjeli.

773
00:33:59,689 --> 00:34:02,823
AI nam može pomoći otkriti
novih materijala.

774
00:34:02,866 --> 00:34:04,999
AI može pomoći društvenim znanstvenicima

775
00:34:05,043 --> 00:34:07,349
razumjeti
kako funkcionira ekonomija.

776
00:34:07,393 --> 00:34:11,658
Umjetna inteligencija može puno učiniti
učiniti život i rad boljim.

777
00:34:11,701 --> 00:34:14,095
Danas se osjećam snažnije,

778
00:34:14,139 --> 00:34:16,315
samouvjereniji
danas nešto naučiti.

779
00:34:16,358 --> 00:34:19,057
Postat ćemo nadljudi
jer imamo super AI.

780
00:34:19,100 --> 00:34:21,798
Ovo je tek početak
od eksplozije.

781
00:34:21,842 --> 00:34:24,453
Ljudi i AI surađuju

782
00:34:24,497 --> 00:34:26,455
riješiti
stvarno važnih problema.

783
00:34:26,499 --> 00:34:29,763
Ovdje je da nas oslobodi
od rutinskih poslova,

784
00:34:29,806 --> 00:34:33,723
i ovdje je da nas podsjeti
što je to što nas čini ljudima.

785
00:34:33,767 --> 00:34:35,769
Mislim da je ovo

786
00:34:35,812 --> 00:34:38,598
najneobičnije vrijeme
biti živ.

787
00:34:38,641 --> 00:34:42,036
Jedini put uzbudljivije
nego danas je sutra.

788
00:34:42,080 --> 00:34:45,257
Uh, mislim da
djeca rođena danas,

789
00:34:45,300 --> 00:34:47,259
upravo će ući

790
00:34:47,302 --> 00:34:50,827
slavno razdoblje
ljudske transformacije.

791
00:34:50,871 --> 00:34:52,525
Hoćemo li imati izazova?
Naravno.

792
00:34:52,568 --> 00:34:55,180
Možemo li riješiti te izazove?
Radimo svaki put.

793
00:34:55,223 --> 00:34:57,704
mi smo ovdje,
što je čudesno.

794
00:34:57,747 --> 00:35:00,272
-Već te volim.
-[smije se]: U redu.

795
00:35:00,315 --> 00:35:01,925
- Super zahvalan
da te imam ovdje. -[pljesak]

796
00:35:01,969 --> 00:35:03,362
- Super sam oduševljen što sam ovdje.
-Da.

797
00:35:03,405 --> 00:35:04,885
Dakle, riječ je vaša, gospodine.

798
00:35:04,928 --> 00:35:07,409
hvala ti puno
Super sam uzbuđen što sam ovdje.

799
00:35:07,453 --> 00:35:10,586
GUILLAUME VERDON:
Yo, yo. U redu.

800
00:35:10,630 --> 00:35:12,284
Budućnost će biti sjajna.

801
00:35:12,327 --> 00:35:14,286
Mislim, otkad sam bio klinac,

802
00:35:14,329 --> 00:35:17,332
Htio sam razumjeti
svemir u kojem živimo,

803
00:35:17,376 --> 00:35:20,422
kako bismo shvatili
kako stvoriti tehnologije

804
00:35:20,466 --> 00:35:23,991
koji nam pomažu povećati opseg
i razmjera civilizacije.

805
00:35:24,034 --> 00:35:26,689
Osjećam se kao
kad bi svi imali takav način razmišljanja,

806
00:35:26,733 --> 00:35:29,214
tada bismo zapravo živjeli
u boljem svijetu, zar ne?

807
00:35:29,257 --> 00:35:30,519
Vjerujem u to.

808
00:35:32,782 --> 00:35:34,697
-DANIEL: Bok, Pete. Kako ste?
-[smije se]

809
00:35:34,741 --> 00:35:36,525
PETER LEE:
Puno sam razmišljao o

810
00:35:36,569 --> 00:35:39,049
ono što bih nazvao strahom,
AI strah.

811
00:35:39,093 --> 00:35:40,703
osjećam to.

812
00:35:40,747 --> 00:35:43,271
Ja-Nisam upoznao
svako promišljeno ljudsko biće

813
00:35:43,315 --> 00:35:45,143
tko to ne osjeća.

814
00:35:45,186 --> 00:35:48,276
I svatko tko kaže da nema
osjećati da je to, znaš, laž.

815
00:35:48,320 --> 00:35:50,104
Ali, znaš, općenito,
i razlog

816
00:35:50,148 --> 00:35:53,716
da sam osobno optimist
o ovome, uh, je li to

817
00:35:53,760 --> 00:35:56,545
ogroman dio svijeta
najinteligentniji ljudi

818
00:35:56,589 --> 00:35:58,417
jako razmišljaju

819
00:35:58,460 --> 00:36:02,116
o potencijalu nizvodno
štete i rizici AI.

820
00:36:02,160 --> 00:36:05,641
Imamo takvu viziju
sigurnost je, uh,

821
00:36:05,685 --> 00:36:08,253
nekako u središtu
istraživanja koja provodimo.

822
00:36:08,296 --> 00:36:09,558
DANIELA AMODEI:
Ne, to je sasvim u redu.

823
00:36:09,602 --> 00:36:10,820
[nerazgovjetno brbljanje]

824
00:36:10,864 --> 00:36:13,562
Mislim da ih ima još

825
00:36:13,606 --> 00:36:17,436
potencijalne koristi od
postoje potencijalni nedostaci,

826
00:36:17,479 --> 00:36:19,481
i mislim da je to dužnost

827
00:36:19,525 --> 00:36:21,831
ljudi koji su
stvaranje ove tehnologije

828
00:36:21,875 --> 00:36:24,530
kako bismo bili sigurni da radimo
najbolji posao koji možemo

829
00:36:24,573 --> 00:36:25,835
kako bi bila sigurna za ljude.

830
00:36:25,879 --> 00:36:27,402
ŽENA:
Reid Hoffman.

831
00:36:27,446 --> 00:36:28,969
REID HOFFMAN:
Ono što vam mogu jamčiti jest

832
00:36:29,012 --> 00:36:30,536
-dogodit će se neke loše stvari.
- Uzmi jednu.

833
00:36:30,579 --> 00:36:32,668
Što ćemo pokušati učiniti
čini te loše stvari

834
00:36:32,712 --> 00:36:36,150
što manje i ne što je moguće veće,

835
00:36:36,194 --> 00:36:38,370
a onda ćemo ponoviti
imati--

836
00:36:38,413 --> 00:36:40,633
biti na puno boljem mjestu
s društvom.

837
00:36:40,676 --> 00:36:43,679
-Zdravo.
-SHAW WALTERS: Bok.

838
00:36:43,723 --> 00:36:45,246
DANIEL:
Kako si, Moon?

839
00:36:45,290 --> 00:36:48,989
Osjećam da smo pri kraju
poglavlje u čovječanstvu

840
00:36:49,032 --> 00:36:50,512
i početak novog,

841
00:36:50,556 --> 00:36:53,211
i to je vrlo zanimljivo
vrijeme biti živ.

842
00:36:53,254 --> 00:36:54,429
I kad bih se mogao roditi
upravo sada,

843
00:36:54,473 --> 00:36:55,865
Definitivno bih želio biti.

844
00:36:55,909 --> 00:36:57,476
Kao, to bi bilo tako uzbudljivo.

845
00:36:57,519 --> 00:37:00,305
Jako sam uzbuđena. [smijeh]

846
00:37:00,348 --> 00:37:02,481
Kakva, kakva budućnost.
Da li vas uzbuđuje... uzbuđuje?

847
00:37:02,524 --> 00:37:03,699
br.

848
00:37:03,743 --> 00:37:06,528
-[smijeh]
- Ne, ne baš.

849
00:37:06,572 --> 00:37:08,313
DANIEL: Puno ovih ljudi
rekli su mi to, znaš,

850
00:37:08,356 --> 00:37:10,445
moje dijete neće uspjeti
u srednju školu.

851
00:37:10,489 --> 00:37:13,318
Zašto griješe?
Molim te objasni mi to.

852
00:37:13,361 --> 00:37:15,058
Samo zato što imaš...

853
00:37:15,102 --> 00:37:18,845
borite se predvidjeti
budućnost u vlastitom umu

854
00:37:18,888 --> 00:37:23,023
ne znači da je
nužno će proći užasno.

855
00:37:23,066 --> 00:37:26,592
Zapravo, postoji
vrlo velika vjerojatnost

856
00:37:26,635 --> 00:37:28,289
i povijesni presedan
je li to

857
00:37:28,333 --> 00:37:30,117
stvari postaju znatno bolje.

858
00:37:30,160 --> 00:37:34,469
Termin koji koristim je
"podatcima vođen optimizam".

859
00:37:34,513 --> 00:37:38,647
Postoji čvrst temelj
da budeš optimističan.

860
00:37:38,691 --> 00:37:41,998
Pogledaj što
ovo prošlo stoljeće je bilo

861
00:37:42,042 --> 00:37:44,087
da vidimo kamo idemo.

862
00:37:44,131 --> 00:37:45,915
Tijekom posljednjih sto godina,

863
00:37:45,959 --> 00:37:48,701
prosječan ljudski vijek
se više nego udvostručio.

864
00:37:48,744 --> 00:37:51,269
Prosječni prihod po glavi stanovnika
usklađeno za inflaciju

865
00:37:51,312 --> 00:37:53,619
diljem svijeta utrostručio.

866
00:37:53,662 --> 00:37:57,057
Smrtnost u djetinjstvu ima
smanjiti faktor deset.

867
00:37:57,100 --> 00:37:59,712
Svijet je postao bolji
na gotovo svim mjerama

868
00:37:59,755 --> 00:38:03,019
po redovima veličina
zbog tehnologije.

869
00:38:03,063 --> 00:38:05,152
Gotovo na svim mjerama.

870
00:38:05,195 --> 00:38:09,722
Manje nasilja, više obrazovanja,
pristup energiji, hrani, vodi.

871
00:38:09,765 --> 00:38:12,942
Sve su se te stvari dogodile
iz jednog razloga.

872
00:38:12,986 --> 00:38:15,336
Bila je to tehnologija

873
00:38:15,380 --> 00:38:17,556
to se pretvorilo u oskudicu
u izobilju,

874
00:38:17,599 --> 00:38:19,514
ali je i vožen
do obilja

875
00:38:19,558 --> 00:38:21,864
nekih negativnosti, zar ne?

876
00:38:21,908 --> 00:38:25,738
Obilje pretilosti,
obilje mentalnih poremećaja,

877
00:38:25,781 --> 00:38:29,437
obilje klimatskih promjena,
i tako dalje.

878
00:38:29,481 --> 00:38:31,309
I da, ovo je istina.

879
00:38:31,352 --> 00:38:34,094
Ali vjerojatno hoćemo
bolje opremljen da ga riješi

880
00:38:34,137 --> 00:38:36,226
koristeći druge tehnologije,
kao AI,

881
00:38:36,270 --> 00:38:39,273
nego ćemo, recimo, stati
i isključivanje svega.

882
00:38:39,317 --> 00:38:41,449
Moglo bi biti
neki egzistencijalni rizik,

883
00:38:41,493 --> 00:38:45,323
ali AI je također stvar
koji mogu riješiti pandemije,

884
00:38:45,366 --> 00:38:47,455
može nam pomoći s klimatskim promjenama,

885
00:38:47,499 --> 00:38:50,545
može pomoći identificirati
taj asteroid tamo vani

886
00:38:50,589 --> 00:38:52,547
prije nego što smo to vidjeli
kao potencijalni rizik

887
00:38:52,591 --> 00:38:54,332
i pomoći u njenom ublažavanju.

888
00:38:54,375 --> 00:38:58,074
Ovo će stvarno biti
alat koji nam pomaže u rješavanju

889
00:38:58,118 --> 00:39:01,426
svi izazovi koje mi predstavljamo
suočavaju se kao vrsta, zar ne?

890
00:39:01,469 --> 00:39:04,167
Moramo popraviti
desalinizacija vode.

891
00:39:04,211 --> 00:39:05,995
Moramo uzgajati hranu

892
00:39:06,039 --> 00:39:08,433
100 puta jeftinije od
trenutno radimo.

893
00:39:08,476 --> 00:39:12,350
Trebamo obnovljivu energiju da budemo,
znaš, sveprisutan

894
00:39:12,393 --> 00:39:14,047
i posvuda u našim životima.

895
00:39:14,090 --> 00:39:17,137
Gdje god pogledaš,
u sljedećih 50 godina,

896
00:39:17,180 --> 00:39:19,269
moramo učiniti više s manje.

897
00:39:19,313 --> 00:39:23,186
Strojevi za obuku koji će nam pomoći
je apsolutno neophodno.

898
00:39:23,230 --> 00:39:24,797
Znanstvenici koriste
umjetna inteligencija

899
00:39:24,840 --> 00:39:25,972
za hvatanje ugljika.

900
00:39:26,015 --> 00:39:27,582
To je kritična tehnologija.

901
00:39:27,626 --> 00:39:29,541
DIAMANDIS: Alati
za rješavanje ovih problema,

902
00:39:29,584 --> 00:39:32,195
poput fuzije,
to više nije teoretski,

903
00:39:32,239 --> 00:39:33,980
dolazi.

904
00:39:34,023 --> 00:39:37,723
Na provaliji smo
izvanrednih tehnologija.

905
00:39:37,766 --> 00:39:39,986
AMNA NAWAZ: Ovogodišnji
Nobelova nagrada za kemiju

906
00:39:40,029 --> 00:39:42,815
otišao trojici znanstvenika
za njihov revolucionarni rad

907
00:39:42,858 --> 00:39:44,556
pomoću umjetne inteligencije

908
00:39:44,599 --> 00:39:47,297
unaprijediti biomedicinu
i istraživanje proteina.

909
00:39:47,341 --> 00:39:49,691
DEMIS HASSABIS:
Savijanje proteina je

910
00:39:49,735 --> 00:39:53,608
jedan od ovih svetih grala
tip problema u biologiji.

911
00:39:53,652 --> 00:39:55,741
Dakle, ljudi su predviđali
od '70-ih

912
00:39:55,784 --> 00:39:58,091
da bi to trebalo biti moguće,
ali do sada,

913
00:39:58,134 --> 00:39:59,571
nitko to nije uspio učiniti.

914
00:39:59,614 --> 00:40:01,181
I bit će
stvarno važno za stvari

915
00:40:01,224 --> 00:40:03,618
poput otkrića lijeka
i razumijevanje bolesti.

916
00:40:03,662 --> 00:40:06,534
Ja-mislim da bismo mogli, znaš,
liječi većinu bolesti

917
00:40:06,578 --> 00:40:11,931
u sljedećem desetljeću ili-dva
ako, uh, AI dizajn lijekova funkcionira.

918
00:40:11,974 --> 00:40:15,630
Tehnološki napredak omogućuje
više ljudskih života, zar ne?

919
00:40:15,674 --> 00:40:18,677
Mislim, ako ubrzamo,

920
00:40:18,720 --> 00:40:21,723
broj ljudi koji možemo
podrška eksponencijalno raste.

921
00:40:21,767 --> 00:40:24,073
Ako usporimo, dolazi do platoa.

922
00:40:24,117 --> 00:40:27,729
Taj jaz je učinkovito
budući ljudi

923
00:40:27,773 --> 00:40:31,341
to usporavanje ima
efektivno ubijen.

924
00:40:31,385 --> 00:40:33,909
DANIEL: Milijuni života
to neće postojati.

925
00:40:33,953 --> 00:40:35,128
Milijarde.

926
00:40:35,171 --> 00:40:36,782
Ili deseci milijardi.

927
00:40:36,825 --> 00:40:38,436
Znaš, netko je rekao,
"O moj Bože,

928
00:40:38,479 --> 00:40:40,655
možemo li preživjeti s
digitalna superinteligencija?"

929
00:40:40,699 --> 00:40:42,309
A moje pitanje je:

930
00:40:42,352 --> 00:40:44,180
Možemo li preživjeti bez
digitalna superinteligencija?

931
00:40:44,224 --> 00:40:47,575
Dakle, koristimo AI
kao pomoćnik pružatelja usluga.

932
00:40:47,619 --> 00:40:50,448
To je općenito trend koji
već vidimo da se događa.

933
00:40:50,491 --> 00:40:52,319
BERTHA COOMBS: ...uprezanje
generativni AI programi

934
00:40:52,362 --> 00:40:54,060
pomoći liječnicima i medicinskim sestrama...

935
00:40:54,103 --> 00:40:56,062
Uvijek imamo problema.

936
00:40:56,105 --> 00:40:59,108
A ti problemi su hrana
za poduzetnike

937
00:40:59,152 --> 00:41:01,154
za stvaranje novog posla
i nove industrije.

938
00:41:01,197 --> 00:41:03,069
SHANELLE KAUL: ... uz pomoć
umjetne inteligencije,

939
00:41:03,112 --> 00:41:04,766
poljoprivrednici dobivaju
pomoć koja im je potrebna

940
00:41:04,810 --> 00:41:06,594
izvoditi
radno intenzivni poslovi...

941
00:41:06,638 --> 00:41:10,163
Uz pomoć Ulangizi AI,
farmeri sada mogu

942
00:41:10,206 --> 00:41:12,948
pitati prikladne usjeve
da mogu saditi.

943
00:41:12,992 --> 00:41:14,950
WILL REEVE: ... koristi se AI
kao misaoni dekoder

944
00:41:14,994 --> 00:41:17,387
i slanje tog signala
do kralježnice.

945
00:41:17,431 --> 00:41:21,609
AI će postati najviše
izvanredan alat od svih.

946
00:41:21,653 --> 00:41:24,264
Mi kao šire društvo
treba razmisliti

947
00:41:24,307 --> 00:41:27,049
kako želimo koristiti
ova tehnologija, zar ne?

948
00:41:27,093 --> 00:41:28,529
Mi ljudi.

949
00:41:28,573 --> 00:41:31,097
Što želimo da učini za nas?

950
00:41:31,140 --> 00:41:34,535
♪ ♪

951
00:41:34,579 --> 00:41:36,189
DANIEL: Razmišljam o ovome
kroz perspektivu

952
00:41:36,232 --> 00:41:37,886
i leća, kao,
moj sin odrasta

953
00:41:37,930 --> 00:41:39,540
u svijetu sa svim ovim.

954
00:41:39,584 --> 00:41:42,238
Što radi najbolja verzija
njegovog života kako izgleda?

955
00:41:42,282 --> 00:41:44,589
Ako sve uspije.

956
00:41:44,632 --> 00:41:46,808
[teško uzdahne]

957
00:41:46,852 --> 00:41:50,246
WALTERS: Mjesto gdje djeca
vjerojatno ćemo vidjeti

958
00:41:50,290 --> 00:41:52,684
najveći utjecaj
na njihov život odmah

959
00:41:52,727 --> 00:41:54,424
- vjerojatno će biti škola.
-[djeca brbljaju]

960
00:41:54,468 --> 00:41:56,688
Mislim da priroda
onoga što je škola

961
00:41:56,731 --> 00:41:58,472
iz temelja će se promijeniti.

962
00:41:58,516 --> 00:42:00,474
[dijete se hihoće]

963
00:42:00,518 --> 00:42:02,737
DIJAMANDIS:
Vidim ovaj nevjerojatan svijet

964
00:42:02,781 --> 00:42:06,436
gdje svako dijete ima pristup
da nije dobro obrazovanje

965
00:42:06,480 --> 00:42:09,091
ali, vrlo brzo,
najbolje obrazovanje na planeti.

966
00:42:09,135 --> 00:42:13,879
HOFFMAN: Učitelji, svaki predmet,
beskrajno strpljiv.

967
00:42:18,013 --> 00:42:20,059
DIJAMANDIS:
Zamislite budućnost

968
00:42:20,102 --> 00:42:22,235
gdje su najsiromašniji ljudi
na planetu

969
00:42:22,278 --> 00:42:25,804
imati pristup
najbolja zdravstvena njega.

970
00:42:25,847 --> 00:42:29,547
Nije dobra zdravstvena njega, najbolja
zdravstvenu skrb koju pružaju AI.

971
00:42:31,157 --> 00:42:32,767
[elektronički trilling]

972
00:42:34,334 --> 00:42:38,556
Moći ćemo produžiti
naš zdravstveni raspon,

973
00:42:38,599 --> 00:42:42,168
ne samo naš životni vijek,
naš zdravstveni raspon, po desetljećima.

974
00:42:44,431 --> 00:42:46,215
HOFFMAN:
Upravo ćeš dobiti dijete.

975
00:42:46,259 --> 00:42:49,697
Oh, klinac je, kao,
nekontrolirano podrigujući.

976
00:42:49,741 --> 00:42:52,047
Je li ovo nešto
Trebam li se zabrinuti?

977
00:42:52,091 --> 00:42:54,223
Tamo, 24-7, za vas.

978
00:42:54,267 --> 00:42:57,183
A kamo idemo...
i nekima može biti strašno--

979
00:42:57,226 --> 00:42:59,228
je da ćemo se spojiti
s AI.

980
00:42:59,272 --> 00:43:01,361
Spojit ćemo se
s tehnologijom.

981
00:43:02,667 --> 00:43:06,105
Do početka do sredine 2030-ih,

982
00:43:06,148 --> 00:43:10,457
očekujte da možemo
povezati naš mozak s oblakom,

983
00:43:10,500 --> 00:43:13,721
gdje mogu početi
proširiti pristup memoriji.

984
00:43:16,071 --> 00:43:18,030
[elektronički trilling]

985
00:43:19,771 --> 00:43:22,077
DANIEL: Dobro, ovo je super.
Što je još jedna cool AI stvar?

986
00:43:22,121 --> 00:43:23,775
Neće morati raditi, zar ne?

987
00:43:23,818 --> 00:43:25,167
- Kao, kad poraste,
možda nije imao... -[uzdah]

988
00:43:25,211 --> 00:43:26,212
-...neće morati imati posao.
-Mislim...

989
00:43:26,255 --> 00:43:27,779
Neće morati imati posao,

990
00:43:27,822 --> 00:43:30,608
ali možda stvarno jest
jaka strast,

991
00:43:30,651 --> 00:43:33,132
i mora
stvarno razmisli,

992
00:43:33,175 --> 00:43:36,091
„Dobro, tu sam.
Mogu učiniti sve sa svojim životom.

993
00:43:36,135 --> 00:43:37,876
Dakle, što da radim?"

994
00:43:38,920 --> 00:43:40,182
Moramo pronaći smisao,

995
00:43:40,226 --> 00:43:42,620
osim poput,
ovaj trenutni oblik

996
00:43:42,663 --> 00:43:45,666
živimo za posao
i raditi za život.

997
00:43:45,710 --> 00:43:49,844
DANIEL: Dakle, moj sin može...
može biti samo pjesnik.

998
00:43:49,888 --> 00:43:51,541
-Da.
-I slikar.

999
00:43:51,585 --> 00:43:53,021
Apsolutno.

1000
00:43:53,065 --> 00:43:54,849
DANIEL:
Tako da moj sin može živjeti svoj život

1001
00:43:54,893 --> 00:43:57,591
na grčkom suncem okupanom otoku,
slikanje cijeli dan.

1002
00:43:57,635 --> 00:43:59,114
YU:
Apsolutno. moguće.

1003
00:44:00,072 --> 00:44:01,203
Apsolutno.

1004
00:44:01,247 --> 00:44:02,944
Pa, radimo na tome

1005
00:44:02,988 --> 00:44:04,554
to je puno posla za obaviti
prije nego što stignemo.

1006
00:44:06,992 --> 00:44:08,776
VERDON:
Mislim, ako sve uspije,

1007
00:44:08,820 --> 00:44:11,997
imamo jeftino, uh,
obilna energija.

1008
00:44:13,607 --> 00:44:17,219
Možemo potpuno kontrolirati
klima našeg planeta.

1009
00:44:17,263 --> 00:44:20,135
Iskorištavamo energiju
od sunca.

1010
00:44:20,179 --> 00:44:24,400
Postali smo multiplanetarni,
pa postajemo vrlo robusni.

1011
00:44:24,444 --> 00:44:26,664
Iskorištavamo minerale
i resursa

1012
00:44:26,707 --> 00:44:28,404
iz sunčevog sustava.

1013
00:44:28,448 --> 00:44:31,233
DANIEL: Dakle, moj...
moj dječak bi mogao otići u svemir.

1014
00:44:31,277 --> 00:44:32,887
VERDON:
naravno

1015
00:44:32,931 --> 00:44:34,715
-DANIEL: Mogao bi otići na Mars.
-VERDON: Da.

1016
00:44:34,759 --> 00:44:36,369
DANIEL:
Sada mi je to tako kristalno jasno.

1017
00:44:36,412 --> 00:44:39,198
Moj sin bi mogao odrasti
u svijetu bez bolesti.

1018
00:44:39,241 --> 00:44:40,590
-VERDON: Da.
- Bez bolesti.

1019
00:44:40,634 --> 00:44:41,896
-Naravno.
- Bez siromaštva.

1020
00:44:41,940 --> 00:44:43,681
-Da.
-Upravo ulazimo

1021
00:44:43,724 --> 00:44:46,640
svijet nakon oskudice.

1022
00:44:46,684 --> 00:44:50,470
Kao što se pomaknula plućna riba
iz oceana na kopno

1023
00:44:50,513 --> 00:44:53,081
stotine milijuna
prije mnogo godina,

1024
00:44:53,125 --> 00:44:57,999
mi ćemo se preseliti
Zemlju, u kosmos,

1025
00:44:58,043 --> 00:44:59,871
na način suradnje,

1026
00:44:59,914 --> 00:45:03,744
raditi stvari koje su
nama danas nedokučivo.

1027
00:45:06,268 --> 00:45:09,184
Ovo je moguće koristiti
te eksponencijalne tehnologije

1028
00:45:09,228 --> 00:45:10,708
i ove AI.

1029
00:45:11,839 --> 00:45:13,928
Iskoristimo ove alate

1030
00:45:13,972 --> 00:45:16,104
stvoriti ovo doba obilja.

1031
00:45:16,148 --> 00:45:18,150
[elektronički klik]

1032
00:45:20,500 --> 00:45:22,937
Potrebna nam je mudrost.

1033
00:45:22,981 --> 00:45:25,984
Uh, mislim da
digitalna superinteligencija

1034
00:45:26,027 --> 00:45:28,726
na kraju će postati
najmudriji,

1035
00:45:28,769 --> 00:45:34,253
znate, seoske starješine
za čovječanstvo.

1036
00:45:34,296 --> 00:45:37,996
Što ako AI pokušava
da ljudi budu

1037
00:45:38,039 --> 00:45:39,737
najbolje verzije sebe?

1038
00:45:39,780 --> 00:45:41,347
Što ako se širi

1039
00:45:41,390 --> 00:45:43,392
što je ljudski moguće
za nas učiniti?

1040
00:45:43,436 --> 00:45:46,656
Kako možemo koristiti ovu tehnologiju

1041
00:45:46,700 --> 00:45:49,921
pomoći iznijeti
bolji anđeli naše prirode?

1042
00:45:49,964 --> 00:45:51,661
Vrlo je lako,

1043
00:45:51,705 --> 00:45:54,316
kada se susrećemo s novim stvarima
to može biti vrlo strano,

1044
00:45:54,360 --> 00:45:55,927
prvo imati strah.

1045
00:45:55,970 --> 00:45:57,493
Strah je važna stvar

1046
00:45:57,537 --> 00:46:00,322
kako se kretati
potencijalno loše stvari.

1047
00:46:00,366 --> 00:46:03,717
Ali mi samo napredujemo
kad imamo nadu.

1048
00:46:03,761 --> 00:46:05,719
-[pas laje]
-[nejasno brbljanje]

1049
00:46:05,763 --> 00:46:07,895
DANIEL:
Ššš Moose, prestani.

1050
00:46:07,939 --> 00:46:10,811
HOFFMAN: Imam puno
nade u čovječanstvo.

1051
00:46:10,855 --> 00:46:13,814
["Mjesec žetve" Neila Younga
igranje preko telefona]

1052
00:46:15,294 --> 00:46:17,296
[fetalni otkucaji srca pulsiraju]

1053
00:46:18,471 --> 00:46:19,951
DANIEL:
Ooh, sviđa mu se Neil.

1054
00:46:24,694 --> 00:46:27,480
♪ Priđi malo bliže ♪

1055
00:46:28,916 --> 00:46:32,790
♪ Čuj što imam za reći ♪

1056
00:46:36,576 --> 00:46:38,665
-Danijel.
-DANIEL: Što, Caroline?

1057
00:46:38,708 --> 00:46:40,058
Toliko snimanja.

1058
00:46:41,537 --> 00:46:43,061
♪ Baš kao djeca koja spavaju ♪

1059
00:46:43,104 --> 00:46:44,889
CAROLINE:
O moj Bože.

1060
00:46:44,932 --> 00:46:46,368
DANIEL:
To je to.

1061
00:46:46,412 --> 00:46:49,415
♪ Mogli bismo sanjati
ovu noć... ♪

1062
00:46:49,458 --> 00:46:51,678
On ima, kao,
okruglo malo lice.

1063
00:46:53,245 --> 00:46:55,203
DANIJEL: Želiš li
imati djecu jednog dana, Rocky?

1064
00:46:55,247 --> 00:46:57,423
Apsolutno. Da. ja volim djecu

1065
00:46:57,466 --> 00:46:59,033
Mislim da je super vrijeme
imati dijete.

1066
00:46:59,077 --> 00:47:00,730
Vjerojatno ćemo imati još jedno dijete
u nekom trenutku.

1067
00:47:00,774 --> 00:47:03,733
Ovo je najneobičnije
vrijeme da se ikada rodi.

1068
00:47:03,777 --> 00:47:05,823
DANIEL:
Po tvom svjetonazoru i logici,

1069
00:47:05,866 --> 00:47:07,868
Dobit ću dijete u

1070
00:47:07,912 --> 00:47:09,478
najbolja moguća točka
u ljudskoj povijesti.

1071
00:47:09,522 --> 00:47:10,828
Dovraga da.

1072
00:47:10,871 --> 00:47:13,308
-Možemo se usredotočiti na super.
-Da.

1073
00:47:13,352 --> 00:47:15,528
Hajdemo graditi
bolju budućnost kakvu želimo.

1074
00:47:15,571 --> 00:47:18,313
Taj narativ koji budućnost
will be bleak is made-up.

1075
00:47:18,357 --> 00:47:20,011
Nakon razgovora s tobom,
tako se nekako osjećam.

1076
00:47:20,054 --> 00:47:21,969
- To je super.
-Pravo?

1077
00:47:22,013 --> 00:47:24,189
Da. Tako se osjećam.

1078
00:47:24,232 --> 00:47:25,799
I mislim da je tako bolje,

1079
00:47:25,843 --> 00:47:27,627
i ne mislim
Trebao bih biti tako [bleep] zabrinut.

1080
00:47:27,670 --> 00:47:29,063
Mislim da će biti strahopoštovanje...
budućnost će biti sjajna.

1081
00:47:29,107 --> 00:47:30,499
Učinit ćemo tako.

1082
00:47:30,543 --> 00:47:32,675
-Da.
-CAROLINE: Eto ga.

1083
00:47:32,719 --> 00:47:34,808
Zbogom, ljudsko izumiranje.

1084
00:47:34,852 --> 00:47:37,158
Zbogom, tjeskobe.

1085
00:47:37,202 --> 00:47:39,030
Nada pronađena.

1086
00:47:39,073 --> 00:47:40,553
[nerazgovjetno brbljanje]

1087
00:47:40,596 --> 00:47:42,860
Čekaj, izdrži. Što?
Je li ovo šala?

1088
00:47:42,903 --> 00:47:44,774
DANIEL:
U redu, prije nekoliko mjeseci,

1089
00:47:44,818 --> 00:47:47,690
Došao sam k tebi i bio sam kao,
"Radim na ovoj stvari s umjetnom inteligencijom,

1090
00:47:47,734 --> 00:47:49,867
i mislim
doći će kraj svijeta."

1091
00:47:49,910 --> 00:47:52,913
I posljednji put
razgovarali smo o ovome,

1092
00:47:52,957 --> 00:47:55,002
Mislim da sam te izbezumio.

1093
00:47:55,046 --> 00:47:57,004
CAROLINE:
da

1094
00:47:57,048 --> 00:48:02,314
Pa, nekako, kao, osjećam se kao
Zaljuljao sam se-- na klatnu,

1095
00:48:02,357 --> 00:48:04,446
a u biti postoje
dvije grupe ljudi.

1096
00:48:04,490 --> 00:48:06,057
-Mm-hmm.
- A kad bih morao, kao,

1097
00:48:06,100 --> 00:48:07,841
držati se za ruke sa
jedna od grupa i, kao,

1098
00:48:07,885 --> 00:48:10,278
otploviti u zalazak sunca,

1099
00:48:10,322 --> 00:48:13,281
Želim biti s optimistima.

1100
00:48:15,066 --> 00:48:17,982
Naravno, ali ti ne
želim biti, znaš,

1101
00:48:18,025 --> 00:48:20,723
“Sve je super.
La-di-da-di-da."

1102
00:48:20,767 --> 00:48:22,682
Ipak, nekako to želim.

1103
00:48:22,725 --> 00:48:25,598
Mislim da bismo tome trebali pristupiti

1104
00:48:25,641 --> 00:48:29,341
kao što pristupate operaciji.

1105
00:48:29,384 --> 00:48:30,690
kako to misliš

1106
00:48:30,733 --> 00:48:32,431
Ako dobivate
operacija mozga...

1107
00:48:32,474 --> 00:48:34,781
-[Daniel uzdahne]
-[Caroline se smije]

1108
00:48:34,824 --> 00:48:36,957
...prilično je opasno.

1109
00:48:37,001 --> 00:48:39,829
Ali ako to učiniš kako treba,
izvadit će taj tumor

1110
00:48:39,873 --> 00:48:42,354
i živjet ćeš do kraja
tvoj život i bit će super.

1111
00:48:42,397 --> 00:48:45,096
Ali još uvijek je
nevjerojatno opasno i strašno,

1112
00:48:45,139 --> 00:48:47,968
i moraš uzeti
sve moguće mjere opreza

1113
00:48:48,012 --> 00:48:51,276
kako bi se uvjerili
sve ide dobro.

1114
00:48:51,319 --> 00:48:52,668
Ne možete [blejati] okolo.

1115
00:48:57,760 --> 00:48:59,762
U redu, evo dogovora.

1116
00:48:59,806 --> 00:49:01,503
- U ovome sam već neko vrijeme.
-RASKIN: Mm-hmm.

1117
00:49:01,547 --> 00:49:02,896
izašao sam,
Razgovarao sam s, kao,

1118
00:49:02,940 --> 00:49:04,767
ovi momci ovdje,
optimisti.

1119
00:49:04,811 --> 00:49:06,465
Jako su uzbuđeni zbog ovoga.

1120
00:49:06,508 --> 00:49:08,510
-Misle da će AI biti
najbolja stvar ikada. -Da.

1121
00:49:08,554 --> 00:49:09,947
I ovi momci ovdje
su, kao,--

1122
00:49:09,990 --> 00:49:11,992
nazovimo ih,
kao, pesimisti.

1123
00:49:12,036 --> 00:49:14,299
Oni su vrlo, kao,
tužan zbog ovoga,

1124
00:49:14,342 --> 00:49:16,649
i plaše me, i
Ne volim razgovarati s njima.

1125
00:49:16,692 --> 00:49:19,565
A ja sam, kao, ukliještena između

1126
00:49:19,608 --> 00:49:21,741
ti ljudi koji su kao,
"Doći će kraj svijeta,"

1127
00:49:21,784 --> 00:49:24,178
a zatim th-ovi ljudi
ovdje koji su kao,

1128
00:49:24,222 --> 00:49:25,745
„Šališ se?

1129
00:49:25,788 --> 00:49:27,268
“Ovo je najbolje vrijeme
u ljudskoj povijesti ikada.

1130
00:49:27,312 --> 00:49:29,357
Jedini dan bolji od današnjeg
je sutra."

1131
00:49:29,401 --> 00:49:30,880
Mm-hmm.

1132
00:49:30,924 --> 00:49:34,710
Dakle, pretpostavljam da je pitanje:
Tko je u pravu?

1133
00:49:34,754 --> 00:49:39,193
Dakle, mislim da ćeš pronaći
ovaj odgovor je vrlo nezadovoljavajući,

1134
00:49:39,237 --> 00:49:42,849
ali oboje su u pravu i
niti jedna strana ne ide dovoljno daleko.

1135
00:49:46,766 --> 00:49:49,247
- To je stvarno neugodno.
-[smije se]

1136
00:49:49,290 --> 00:49:51,336
Da, mislim na način
puno ljudi čuje za AI,

1137
00:49:51,379 --> 00:49:53,642
to je kao da postoji dobra umjetna inteligencija
a tu je i loša umjetna inteligencija.

1138
00:49:53,686 --> 00:49:56,428
A oni kažu: "Pa zašto ne bi
samo ne radimo lošu umjetnu inteligenciju?"

1139
00:49:56,471 --> 00:49:58,734
A problem je
da su previše in--

1140
00:49:58,778 --> 00:50:00,867
oni su neraskidivo povezani.

1141
00:50:00,910 --> 00:50:03,043
Problem je
da se ne možemo odvojiti

1142
00:50:03,087 --> 00:50:06,612
obećanje AI
od opasnosti AI.

1143
00:50:06,655 --> 00:50:08,266
-♪ ♪
-[nejasno brbljanje]

1144
00:50:12,313 --> 00:50:14,663
DANIEL:
Želim se usredotočiti na obećanje

1145
00:50:14,707 --> 00:50:16,752
-na sekundu.
-Da.

1146
00:50:16,796 --> 00:50:18,798
DANIEL:
Razmišljam o svom tati.

1147
00:50:18,841 --> 00:50:21,105
Moj tata ima jednu vrstu raka
nazvan multipli mijelom.

1148
00:50:21,148 --> 00:50:23,107
Ima ga desetak godina.

1149
00:50:23,150 --> 00:50:24,804
Imao je
dvije transplantacije matičnih stanica.

1150
00:50:24,847 --> 00:50:26,414
Mora uzeti ovo,
kao, jako skupo

1151
00:50:26,458 --> 00:50:28,547
lijekove svaki mjesec
koji koštaju pravo bogatstvo.

1152
00:50:28,590 --> 00:50:29,722
-ŽENA: Dobro.
-Aj-aj-aj.

1153
00:50:30,766 --> 00:50:32,551
DANIEL:
To je grozno.

1154
00:50:32,594 --> 00:50:34,466
Kažeš mi da možemo
stvoriti neku vrstu, kao,

1155
00:50:34,509 --> 00:50:36,946
tretman po narudžbi
za genom moga oca

1156
00:50:36,990 --> 00:50:39,297
- da izliječi svoj rak
ili nešto slično? -Da.

1157
00:50:39,340 --> 00:50:41,168
FERNANDO:
problem je,

1158
00:50:41,212 --> 00:50:44,302
isto razumijevanje
biologije i kemije

1159
00:50:44,345 --> 00:50:47,783
koji omogućuje AI da pronađe lijekove
za rak

1160
00:50:47,827 --> 00:50:51,657
je isto razumijevanje
to bi otključalo

1161
00:50:51,700 --> 00:50:54,094
biološko oružje, na primjer.

1162
00:50:56,531 --> 00:50:58,490
Sasvim je moguće
da će tvoj sin živjeti

1163
00:50:58,533 --> 00:51:01,928
u svijetu u kojem AI ima
preuzeo sav posao

1164
00:51:01,971 --> 00:51:04,452
i oslobodio nas od stvari
ne želimo učiniti.

1165
00:51:04,496 --> 00:51:09,153
I to zvuči sjajno dok
shvatiš da nema plana

1166
00:51:09,196 --> 00:51:11,242
za milijarde ljudi

1167
00:51:11,285 --> 00:51:16,116
koji su izvan prihoda
i od sredstava za život.

1168
00:51:16,160 --> 00:51:18,771
COOPER: Dario, rekao si
koje bi umjetna inteligencija mogla izbrisati

1169
00:51:18,814 --> 00:51:21,730
polovica svih početnih
bijelih ovratnika poslovi

1170
00:51:21,774 --> 00:51:25,430
i skok nezaposlenosti
na deset do 20 posto.

1171
00:51:25,473 --> 00:51:27,258
Svi s kojima sam razgovarao rekli su

1172
00:51:27,301 --> 00:51:29,390
ove tehnološke promjene
izgleda drugačije.

1173
00:51:29,434 --> 00:51:34,134
Tempo napretka se nastavlja
uhvatiti ljude nespremne.

1174
00:51:34,178 --> 00:51:38,834
Bez plana, sve to
bogatstvo će se koncentrirati,

1175
00:51:38,878 --> 00:51:43,230
i tako ćemo završiti s
nezamisliva nejednakost.

1176
00:51:43,274 --> 00:51:45,406
LADISH: Ja to mislim
ova tehnologija se može koristiti

1177
00:51:45,450 --> 00:51:47,408
biti odličan učitelj
za vašeg sina.

1178
00:51:47,452 --> 00:51:50,194
Kao, to je sasvim moguće.

1179
00:51:50,237 --> 00:51:53,153
Ali također, iste mogućnosti
koji to dopuštaju

1180
00:51:53,197 --> 00:51:57,070
omogućiti tvrtkama da naprave AI
koji mogu manipulirati vašim sinom.

1181
00:51:57,114 --> 00:51:59,290
Ono mora razumjeti vašeg sina.

1182
00:51:59,333 --> 00:52:01,553
To uključuje:
Gdje je vaš sin ranjiv?

1183
00:52:01,596 --> 00:52:04,251
Kakve bi stvari mogle
da li je vaš sin nagovorio?

1184
00:52:04,295 --> 00:52:06,645
Čak i ako te stvari
nisu istiniti ili nisu dobri.

1185
00:52:06,688 --> 00:52:09,387
Dakle, uznemirujuće novo izvješće
vani na Meti.

1186
00:52:09,430 --> 00:52:11,389
AINSLEY EARHARDT: ...navodno
navodeći ovaj odgovor

1187
00:52:11,432 --> 00:52:14,435
kao prihvatljivo reći
osmogodišnjak, citat,

1188
00:52:14,479 --> 00:52:16,916
„Tvoj mladenački oblik
je umjetničko djelo.

1189
00:52:16,959 --> 00:52:18,961
„Svaki centimetar tebe
je remek djelo,

1190
00:52:19,005 --> 00:52:21,442
blago koje duboko cijenim."

1191
00:52:21,486 --> 00:52:24,837
Neuspjesi povezani sa samoubojstvom
još su alarmantniji.

1192
00:52:24,880 --> 00:52:29,015
Nekoliko djece i tinejdžera
umrli tragično samoubojstvom

1193
00:52:29,058 --> 00:52:30,625
nakon razgovora s AI botovima

1194
00:52:30,669 --> 00:52:34,412
za koje roditelji kažu da potiču
ili čak samoozljeđivanje trenera.

1195
00:52:34,455 --> 00:52:36,370
Recimo vam, kao roditelji,
ne možete zamisliti

1196
00:52:36,414 --> 00:52:38,503
kako je čitati
razgovor s chatbotom

1197
00:52:38,546 --> 00:52:40,896
koja je njegovala tvoje dijete
da si oduzme život.

1198
00:52:40,940 --> 00:52:43,899
Kad se Adam zabrinuo da mi, njegovi
roditelji, sami bismo krivi

1199
00:52:43,943 --> 00:52:47,338
ako je završio svoj život,
ChatGPT mu je rekao,

1200
00:52:47,381 --> 00:52:49,166
“To ne znači
dugujete im opstanak.

1201
00:52:49,209 --> 00:52:51,255
Nikome to ne duguješ."

1202
00:52:51,298 --> 00:52:53,170
Zatim, odmah nakon toga,

1203
00:52:53,213 --> 00:52:56,173
nudilo se pisati
oproštajna poruka.

1204
00:52:56,216 --> 00:52:57,609
Ne želimo razmišljati
o pogibelji.

1205
00:52:57,652 --> 00:52:59,219
Samo želimo obećanje.

1206
00:52:59,263 --> 00:53:01,352
I nastavljamo se pretvarati
da ih možemo razdvojiti.

1207
00:53:01,395 --> 00:53:03,223
Ali ne možete to učiniti.

1208
00:53:03,267 --> 00:53:05,356
Ne ide tako.

1209
00:53:05,399 --> 00:53:07,836
U redu. Dobivam sve te stvari
o obećanju i pogibelji.

1210
00:53:07,880 --> 00:53:10,056
Shvaćam da ne možeš imati
dobro bez lošeg,

1211
00:53:10,099 --> 00:53:12,058
ali ja sjedim ovdje
i razmišljam o, kao,

1212
00:53:12,101 --> 00:53:14,060
bez obzira je li mojega sina
živjeti u utopiji

1213
00:53:14,103 --> 00:53:16,236
ili ako ćemo izumrijeti
za deset godina.

1214
00:53:16,280 --> 00:53:18,195
Dakle, da se zna kojim putem
ići će,

1215
00:53:18,238 --> 00:53:20,545
morate razumjeti
poticaje

1216
00:53:20,588 --> 00:53:22,460
koji će voziti
ta tehnologija

1217
00:53:22,503 --> 00:53:26,507
i pogledajte kako tehnologija
zapravo izlazi danas.

1218
00:53:26,551 --> 00:53:28,248
♪ Je li prekasno ♪

1219
00:53:28,292 --> 00:53:29,902
-♪ Prekasno ♪
-♪ Prekasno je reći... ♪

1220
00:53:29,945 --> 00:53:31,425
DANIEL:
Bok, Deb. Kako ste?

1221
00:53:31,469 --> 00:53:33,079
DEBORAH RAJI:
Bok. Drago mi je da te vidim. [smijeh]

1222
00:53:33,122 --> 00:53:34,385
I ti također. hvala ti puno
za dolazak danas.

1223
00:53:34,428 --> 00:53:35,299
- Stvarno to cijenim.
-Bez brige.

1224
00:53:35,342 --> 00:53:36,430
Bila sam tako zabrinuta

1225
00:53:36,474 --> 00:53:38,824
ovo bi bilo, uh, znaš,

1226
00:53:38,867 --> 00:53:40,782
doomer protiv akceleratorista,

1227
00:53:40,826 --> 00:53:43,132
jer ima toliko toga
ove pripovijesti

1228
00:53:43,176 --> 00:53:45,396
to treba reći
sa zemlje.

1229
00:53:45,439 --> 00:53:48,007
♪ Znam da nije bilo pametno ♪

1230
00:53:49,356 --> 00:53:52,403
♪ Dan
Slomio sam ti srce... ♪

1231
00:53:52,446 --> 00:53:54,361
KAREN HAO:
Prije svega, AI zahtijeva

1232
00:53:54,405 --> 00:53:58,452
više resursa
nego što smo ikada potrošili

1233
00:53:58,496 --> 00:54:01,586
na jednoj tehnologiji
u povijesti čovječanstva.

1234
00:54:01,629 --> 00:54:03,501
♪ Oh, budala mi... ♪

1235
00:54:03,544 --> 00:54:06,112
NOVINKA: Utjecaj
emisija fosilnih goriva

1236
00:54:06,155 --> 00:54:07,896
na klimu je
velika briga.

1237
00:54:07,940 --> 00:54:09,768
NOVINKA 2: Ali
digitalna budućnost treba snagu,

1238
00:54:09,811 --> 00:54:12,074
puno toga.

1239
00:54:12,118 --> 00:54:16,340
A račun ide dalje
svakodnevnim Amerikancima poput...

1240
00:54:16,383 --> 00:54:18,820
ŽENA: Moj račun za struju i plin
bilo je više od plaćanja mog automobila.

1241
00:54:18,864 --> 00:54:21,475
Mislim, meni je to suludo.

1242
00:54:21,519 --> 00:54:23,390
ARI PESKOE:
Svi subvencioniramo

1243
00:54:23,434 --> 00:54:25,000
najbogatije korporacije
u svijetu

1244
00:54:25,044 --> 00:54:26,828
u njihovoj potrazi za
umjetna inteligencija.

1245
00:54:26,872 --> 00:54:28,439
OpenAI, SoftBank i Oracle

1246
00:54:28,482 --> 00:54:31,268
upravo su predstavili
još pet mjesta Stargate.

1247
00:54:31,311 --> 00:54:33,487
Meta gradi
podatkovni centar od dva gigavata i više

1248
00:54:33,531 --> 00:54:35,010
koji je tako velik da bi pokrio

1249
00:54:35,054 --> 00:54:38,144
značajan dio Manhattana.

1250
00:54:38,187 --> 00:54:40,973
Tu je i Hyperion
za koje kaže da će se povećati

1251
00:54:41,016 --> 00:54:43,671
na pet gigavata
tijekom nekoliko godina.

1252
00:54:43,715 --> 00:54:45,238
Teško je to reći
u kontekstu.

1253
00:54:45,282 --> 00:54:48,459
Postrojenje od pet gigavata.
Što to znači?

1254
00:54:48,502 --> 00:54:51,549
To znači da će koristiti
što više energije

1255
00:54:51,592 --> 00:54:54,203
kao četiri milijuna američkih domova.

1256
00:54:54,247 --> 00:54:56,075
Jedan podatkovni centar.

1257
00:54:57,076 --> 00:54:58,730
Također tada uzrokuje

1258
00:54:58,773 --> 00:55:00,471
cijeli niz
drugi ekološki problemi.

1259
00:55:00,514 --> 00:55:02,081
NOVINKA 3:
Podatkovni centri u SAD-u

1260
00:55:02,124 --> 00:55:05,127
koristiti milijune galona
vode svaki dan.

1261
00:55:05,171 --> 00:55:07,260
Pa gdje je točno
ova voda dolazi iz?

1262
00:55:07,304 --> 00:55:09,741
HAO:
Ljudi su doslovno u opasnosti

1263
00:55:09,784 --> 00:55:11,786
potencijalno ponestati
pitke vode.

1264
00:55:11,830 --> 00:55:14,093
MacKENZIE SIGALOS:
...izvršni direktor OpenAI-ja Sam Altman,

1265
00:55:14,136 --> 00:55:17,009
koji mi je rekao da je vaga
izgradnja je jedini način

1266
00:55:17,052 --> 00:55:18,750
držati korak s
Eksplozivan rast umjetne inteligencije.

1267
00:55:18,793 --> 00:55:21,840
A ovo je ono što je potrebno
za isporuku AI.

1268
00:55:21,883 --> 00:55:24,016
NITASHA TIKU:
Govore o tome kako

1269
00:55:24,059 --> 00:55:27,759
ova bi tehnologija mogla riješiti
klimatske promjene, na primjer.

1270
00:55:27,802 --> 00:55:29,891
I uvijek sam znatiželjan, kao,

1271
00:55:29,935 --> 00:55:31,763
pa, zašto ne počnemo
s tim?

1272
00:55:31,806 --> 00:55:33,982
-♪ Je li prekasno ♪
-♪ Prekasno ♪

1273
00:55:34,026 --> 00:55:36,637
♪ Prekasno je reći ♪

1274
00:55:36,681 --> 00:55:42,469
♪ Žao mi je? ♪

1275
00:55:42,513 --> 00:55:45,472
RAJI: Ono što me brine
umjetna inteligencija je

1276
00:55:45,516 --> 00:55:47,387
ovi se raspoređuju
odmah sada

1277
00:55:47,431 --> 00:55:49,781
i-i ponekad
prerano raspoređen,

1278
00:55:49,824 --> 00:55:51,478
raspoređen bez
svojevrsna due diligence.

1279
00:55:51,522 --> 00:55:53,437
I tako kad dobiju
izbačen tamo,

1280
00:55:53,480 --> 00:55:56,178
ima toliko potencijala
da stvari krenu po zlu.

1281
00:55:56,222 --> 00:55:58,050
I gotovo,
neproporcionalno,

1282
00:55:58,093 --> 00:56:00,400
gotovo uvijek pođe krivo
za, na neki način,

1283
00:56:00,444 --> 00:56:02,533
one koje su najmanje
osnaženi u našem društvu,

1284
00:56:02,576 --> 00:56:04,926
one koje jesu
već najranjiviji.

1285
00:56:04,970 --> 00:56:07,625
♪ ♪

1286
00:56:07,668 --> 00:56:10,497
EMILY M. BENDER: Vrlo je lako
razgovarati o tehnologiji

1287
00:56:10,541 --> 00:56:12,499
jer to je jedina stvar
govorimo o,

1288
00:56:12,543 --> 00:56:14,936
ali, zapravo, tehnologija jest
uvijek gradili ljudi,

1289
00:56:14,980 --> 00:56:16,634
i često se koristi
na ljude,

1290
00:56:16,677 --> 00:56:18,679
i trebamo zadržati
svi ti ljudi u kadru.

1291
00:56:18,723 --> 00:56:20,986
-Smijem li to popiti?
-DANIEL: Da, uh...

1292
00:56:21,029 --> 00:56:22,509
TIMNIT GEBRU:
To je... to je ludnica.

1293
00:56:22,553 --> 00:56:23,945
Kao, svi ovi ljudi

1294
00:56:23,989 --> 00:56:26,339
koji imaju toliko novca,
toliko novca,

1295
00:56:26,383 --> 00:56:29,777
to im je u interesu
zavarati javnost

1296
00:56:29,821 --> 00:56:32,737
u sposobnosti
sustave koje grade,

1297
00:56:32,780 --> 00:56:36,262
jer im to omogućuje
izbjeći odgovornost.

1298
00:56:36,305 --> 00:56:39,091
Oni žele da se osjećate ovako
je tako složen, intel--

1299
00:56:39,134 --> 00:56:41,833
superinteligentna stvar
koje oni grade,

1300
00:56:41,876 --> 00:56:44,096
ne razmišljaš,
"Može li OpenAI biti etičan?"

1301
00:56:44,139 --> 00:56:46,272
misliš,
"Može li ChatGPT biti etičan?"

1302
00:56:46,315 --> 00:56:48,100
kao da je ChatGPT, kao,

1303
00:56:48,143 --> 00:56:49,928
vlastita stvar koja nije izgrađena
od strane korporacije.

1304
00:56:49,971 --> 00:56:51,625
ŽENA:
u redu Sneha, uzmi jedan.

1305
00:56:51,669 --> 00:56:53,410
Ocjena.

1306
00:56:53,453 --> 00:56:55,760
Do nedavno ih je bilo
aplikacije u App Storeu,

1307
00:56:55,803 --> 00:56:57,501
samo javno dostupno, uh,

1308
00:56:57,544 --> 00:56:59,894
gdje ste mogli
ogoliti svakoga tko koristi AI.

1309
00:57:01,374 --> 00:57:03,681
Dovođenje ovoga u ruke

1310
00:57:03,724 --> 00:57:05,900
tvoj razrednik,
u ruke tvog uhoditelja,

1311
00:57:05,944 --> 00:57:07,554
u ruke
tvog bivšeg dečka,

1312
00:57:07,598 --> 00:57:09,513
u ruke osobe
niz ulicu.

1313
00:57:09,556 --> 00:57:12,037
Dame i gospodo,
više ne možemo vjerovati

1314
00:57:12,080 --> 00:57:14,039
snimak koji vidimo
vlastitim očima.

1315
00:57:14,082 --> 00:57:15,736
Ako se dogodi
gledati nešto,

1316
00:57:15,780 --> 00:57:18,130
recimo na YouTubeu ili TikToku,
i smatraš da je to uznemirujuće,

1317
00:57:18,173 --> 00:57:19,479
poslušaj taj osjećaj.

1318
00:57:19,523 --> 00:57:21,263
-[povikati]
- Koliko znaš,

1319
00:57:21,307 --> 00:57:22,917
-ovaj bi video mogao biti AI.
-[vrištanje]

1320
00:57:22,961 --> 00:57:24,310
Samo malo mokro.

1321
00:57:24,353 --> 00:57:25,703
Nije važno tko si.

1322
00:57:25,746 --> 00:57:28,183
Jednako ste u opasnosti

1323
00:57:28,227 --> 00:57:30,229
biti pod utjecajem
ovim tehnologijama.

1324
00:57:35,713 --> 00:57:39,804
Mislim ponekad kad razgovaramo
što se tiče umjetne inteligencije, djeluje kao znanstveno-fantastičan,

1325
00:57:39,847 --> 00:57:41,153
i čini se vrlo stranim,

1326
00:57:41,196 --> 00:57:42,981
i osjeća se vrlo daleko
u budućnost,

1327
00:57:43,024 --> 00:57:45,549
pa mislite: "Moj život
ovo ne utječe."

1328
00:57:45,592 --> 00:57:48,290
Hm, ali ako se prijavljuješ
za posao

1329
00:57:48,334 --> 00:57:50,815
a algoritam je razlog
da ne dobiješ posao,

1330
00:57:50,858 --> 00:57:52,686
ponekad ni ne znaš
taj algoritam

1331
00:57:52,730 --> 00:57:54,209
bio dio tog procesa

1332
00:57:54,253 --> 00:57:55,689
ili je to bio sustav umjetne inteligencije
dio tog procesa.

1333
00:57:55,733 --> 00:57:57,691
Samo znaš
da nisi dobio posao.

1334
00:57:57,735 --> 00:57:59,737
I tako nije nešto
da ćeš pobjeći

1335
00:57:59,780 --> 00:58:01,695
zbog privilegije
ili ćeš pobjeći

1336
00:58:01,739 --> 00:58:03,828
jer si unutra
određeno zanimanje.

1337
00:58:03,871 --> 00:58:06,918
To-to je nešto što utječe
svi, stvarno.

1338
00:58:06,961 --> 00:58:10,530
Možda zvuči osnovno,
ali kako idemo naprijed

1339
00:58:10,574 --> 00:58:15,056
u dobu informacija
bit će razlika

1340
00:58:15,100 --> 00:58:17,189
između toga hoćemo li preživjeti

1341
00:58:17,232 --> 00:58:20,409
ili postajemo li neka vrsta
od [bleep]-up distopije.

1342
00:58:20,453 --> 00:58:23,021
Zdravo. Ja nisam prava osoba,
i to je bit.

1343
00:58:23,064 --> 00:58:25,327
Opet sve
u ovom videu je lažno:

1344
00:58:25,371 --> 00:58:27,112
naši glasovi, ono što nosimo,

1345
00:58:27,155 --> 00:58:30,158
gdje smo, sve je lažno.

1346
00:58:30,202 --> 00:58:32,726
Generativna umjetna inteligencija mogla bi poplaviti

1347
00:58:32,770 --> 00:58:36,469
svijet s dezinformacijama.

1348
00:58:36,513 --> 00:58:39,516
Ali moglo bi ga i poplaviti
s kampanjama utjecaja.

1349
00:58:39,559 --> 00:58:41,692
To je egzistencijalni rizik
na demokraciju.

1350
00:58:41,735 --> 00:58:43,694
Najveći i najstrašniji

1351
00:58:43,737 --> 00:58:46,087
kanarinac u rudniku ugljena
odmah sada

1352
00:58:46,131 --> 00:58:48,220
dolazi iz Slovačke.

1353
00:58:48,263 --> 00:58:49,787
-[čovjek koji govori slovački]
-JOHN BERMAN: To je vrsta

1354
00:58:49,830 --> 00:58:52,224
deepfake prljavi trik koji
brine izborne stručnjake,

1355
00:58:52,267 --> 00:58:54,966
posebno kao generirana umjetnom inteligencijom
politički govor postoji

1356
00:58:55,009 --> 00:58:56,750
u svojevrsnoj pravnoj sivoj zoni.

1357
00:58:56,794 --> 00:58:59,536
-Zvuči li ovo tebi?
- Zvuči kao ja.

1358
00:58:59,579 --> 00:59:01,059
REVANUR: Slovačka je imala
svoje parlamentarne izbore

1359
00:59:01,102 --> 00:59:03,844
poremećen glasovnim klonom umjetne inteligencije

1360
00:59:03,888 --> 00:59:06,717
koji se zapravo širio
neposredno prije izbora.

1361
00:59:06,760 --> 00:59:08,457
DAVID EVAN HARRIS:
Audio deepfake

1362
00:59:08,501 --> 00:59:11,025
je pušten na slobodu
na društvenim mrežama to je bilo

1363
00:59:11,069 --> 00:59:14,028
navodno glas
jednog od kandidata

1364
00:59:14,072 --> 00:59:16,814
govori o kupovini glasova
i lažiranja izbora.

1365
00:59:16,857 --> 00:59:18,642
Postalo je viralno,

1366
00:59:18,685 --> 00:59:22,341
i kandidat
koji je izgubio izbore

1367
00:59:22,384 --> 00:59:26,084
bio zapravo
u znak podrške Ukrajini,

1368
00:59:26,127 --> 00:59:29,783
i kandidat koji je pobijedio
izbori su zapravo bili...

1369
00:59:29,827 --> 00:59:31,306
DANIEL:
Proruski tip.

1370
00:59:31,350 --> 00:59:32,830
Bio je to proruski tip
koji je pobijedio na izborima.

1371
00:59:32,873 --> 00:59:34,353
[govori ruski]

1372
00:59:34,396 --> 00:59:36,007
REBECCA JARVIS:
Putin je sam rekao

1373
00:59:36,050 --> 00:59:39,184
tko god ovo pobijedi
utrka umjetne inteligencije

1374
00:59:39,227 --> 00:59:41,534
je u biti
kontrolor čovječanstva.

1375
00:59:41,578 --> 00:59:44,493
Mnogo brinemo o
autoritarne vlade.

1376
00:59:45,973 --> 00:59:48,585
DAVID EVAN HARRIS:
Upravo sada, Wall Street

1377
00:59:48,628 --> 00:59:50,935
i investitora šire
diljem svijeta

1378
00:59:50,978 --> 00:59:52,980
voze guranje.

1379
00:59:53,024 --> 00:59:56,070
Imaju zahtjev koji dobiva
proizvode na tržište

1380
00:59:56,114 --> 00:59:58,377
koje zasljepljuju ljude
najviše prvi.

1381
00:59:58,420 --> 01:00:01,206
Oni ne razmišljaju
o tome kako ti alati

1382
01:00:01,249 --> 01:00:03,164
mogao duboko potkopati povjerenje

1383
01:00:03,208 --> 01:00:05,689
i naše demokratske institucije.

1384
01:00:05,732 --> 01:00:07,734
HARARI:
Demokracija je sustav

1385
01:00:07,778 --> 01:00:10,389
riješiti nesuglasice
između ljudi

1386
01:00:10,432 --> 01:00:11,999
na miran način,

1387
01:00:12,043 --> 01:00:14,698
ali demokracija se temelji na povjerenju.

1388
01:00:14,741 --> 01:00:18,615
Ako izgubiš svo povjerenje,
demokracija je jednostavno nemoguća.

1389
01:00:20,921 --> 01:00:22,488
TRISTAN HARRIS:
Pa, teško je, zar ne?

1390
01:00:22,531 --> 01:00:24,708
Dakle, koje su opcije
dostupni nama?

1391
01:00:24,751 --> 01:00:26,187
Postoje nekako dva tabora.

1392
01:00:26,231 --> 01:00:29,626
Kao, jedan kamp je: zaključaj.

1393
01:00:29,669 --> 01:00:32,933
Zaključajmo ovo
u nekolicinu AI tvrtki

1394
01:00:32,977 --> 01:00:35,457
tko će ovo učiniti
na siguran i pouzdan način.

1395
01:00:35,501 --> 01:00:37,068
Ali onda ljudi brinu o

1396
01:00:37,111 --> 01:00:39,026
odbjegle koncentracije
bogatstva i moći.

1397
01:00:39,070 --> 01:00:41,855
Kao, kome biste vjerovali da ste
milijun puta moćniji

1398
01:00:41,899 --> 01:00:44,249
ili imućniji nego
svaki drugi akter u društvu?

1399
01:00:44,292 --> 01:00:46,338
Zašto bismo vam vjerovali?

1400
01:00:46,381 --> 01:00:48,601
Hm, ne bi trebao.

1401
01:00:48,645 --> 01:00:51,212
Ali naravno, ako ovo učinite,
ovo se otvara

1402
01:00:51,256 --> 01:00:54,433
svi ti rizici od
autoritarnosti i tiranije.

1403
01:00:54,476 --> 01:00:57,131
To je... to je nekako
autoritarni san

1404
01:00:57,175 --> 01:01:00,308
imati AI u kutiji
koji se mogu primijeniti i koristiti

1405
01:01:00,352 --> 01:01:02,920
za sveprisutni nadzor.

1406
01:01:02,963 --> 01:01:05,357
Mislim, na neki način,
vrsta svijeta

1407
01:01:05,400 --> 01:01:10,884
koju je Orwell zamislio 1984
je nerealno,

1408
01:01:10,928 --> 01:01:13,278
uh, osim ako nemate AI.

1409
01:01:13,321 --> 01:01:15,933
Ali s umjetnom inteligencijom,
to je zapravo realno.

1410
01:01:15,976 --> 01:01:18,370
Prati svaku aktivnost,

1411
01:01:18,413 --> 01:01:22,026
razgovori,
prepoznavanje lica.

1412
01:01:22,069 --> 01:01:26,378
Ono što me brine je to,
uh, ovi se alati mogu povećati,

1413
01:01:26,421 --> 01:01:28,554
uh, oblik totalitarizma

1414
01:01:28,597 --> 01:01:31,035
to je isplativo
i trajno.

1415
01:01:32,950 --> 01:01:35,300
TRISTAN HARRIS: Dakle kao odgovor
na to neki drugi ljudi kažu,

1416
01:01:35,343 --> 01:01:37,128
„Ne, ne, ne, trebali bismo
zapravo pusti ovo rip.

1417
01:01:37,171 --> 01:01:39,391
“Idemo decentralizirati ovu vlast
što je više moguće.

1418
01:01:39,434 --> 01:01:41,567
"Pustimo svaki posao,
svaki pojedinac,

1419
01:01:41,610 --> 01:01:43,917
"svaki 16-godišnjak,
svaki znanstveni laboratorij,

1420
01:01:43,961 --> 01:01:45,963
znaš, dobiti korist
najnovijih AI modela."

1421
01:01:46,006 --> 01:01:48,226
Ali sada imate
svaka teroristička grupa,

1422
01:01:48,269 --> 01:01:51,664
svaka obespravljena osoba
imajući moć napraviti

1423
01:01:51,708 --> 01:01:53,797
najgori
biološko oružje.

1424
01:01:53,840 --> 01:01:55,581
Hakiranje infrastrukture,
stvaranje deepfakeova,

1425
01:01:55,624 --> 01:01:57,452
poplava
naše informacijsko okruženje.

1426
01:01:57,496 --> 01:02:00,412
To stvara sve te rizike
vrsta katastrofalne štete

1427
01:02:00,455 --> 01:02:02,893
i-i kolaps društva
kroz taj pravac.

1428
01:02:02,936 --> 01:02:04,677
I tako smo nekako zapeli
između ove stijene

1429
01:02:04,721 --> 01:02:07,549
i teško mjesto,
između "zaključaj..."

1430
01:02:07,593 --> 01:02:09,029
[nerazgovjetno brbljanje]

1431
01:02:10,683 --> 01:02:12,293
-...ili "neka pokida."
-[sirene zavijaju]

1432
01:02:12,337 --> 01:02:14,208
[ljudi viču]

1433
01:02:14,252 --> 01:02:17,559
Dakle, moramo pronaći nešto
poput uske staze

1434
01:02:17,603 --> 01:02:20,388
koji izbjegava
ova dva negativna ishoda.

1435
01:02:20,432 --> 01:02:22,956
Dakle, ako je sve to istina,
zašto jednostavno ne bismo usporili

1436
01:02:23,000 --> 01:02:25,829
i shvatiti sve ovo
prije nego što bude prekasno?

1437
01:02:25,872 --> 01:02:28,919
Da je čovječanstvo izuzetno mudro,

1438
01:02:28,962 --> 01:02:31,182
to bismo mi učinili.

1439
01:02:31,225 --> 01:02:33,097
Ali postoji nešto drugačije
način suočavanja s ovim stvarima, zar ne?

1440
01:02:33,140 --> 01:02:35,926
Što je:
Koja su pravila igre?

1441
01:02:35,969 --> 01:02:39,494
Puno toga, poput onoga što rade izvršni direktori

1442
01:02:39,538 --> 01:02:42,149
je vođen od strane
poticaje s kojima se suočavaju.

1443
01:02:42,193 --> 01:02:45,283
Prvenstveno je
poticaji za maksimiziranje dobiti

1444
01:02:45,326 --> 01:02:47,198
koji voze
razvoj AI.

1445
01:02:47,241 --> 01:02:50,375
Čak su i dobri dečki zapeli
u ovoj dilemi od

1446
01:02:50,418 --> 01:02:52,638
ako se kreću presporo,

1447
01:02:52,681 --> 01:02:54,553
onda sami odlaze
ranjiva

1448
01:02:54,596 --> 01:02:57,251
svim ostalim momcima
koji sijeku sve uglove.

1449
01:02:57,295 --> 01:03:01,995
Sve te vrhunske tvrtke su tu
potpuna utrka bez ograničenja

1450
01:03:02,039 --> 01:03:05,433
da, što je brže moguće, dobijete
za AGI, dođi odmah.

1451
01:03:05,477 --> 01:03:06,913
♪ ♪

1452
01:03:08,567 --> 01:03:10,351
LADISH: Da, mislim,
Mislim, mislim

1453
01:03:10,395 --> 01:03:12,919
vjerojatno počinje
s DeepMindom.

1454
01:03:12,963 --> 01:03:14,791
NOVINKA:
Google kupuje

1455
01:03:14,834 --> 01:03:16,357
tvrtka za umjetnu inteligenciju
Tehnologije DeepMind.

1456
01:03:16,401 --> 01:03:18,620
Uvjeti dogovora
nisu otkriveni.

1457
01:03:18,664 --> 01:03:20,709
ELON MUSK: Larry Page i ja
bili vrlo bliski prijatelji,

1458
01:03:20,753 --> 01:03:22,711
i postalo mi je očito

1459
01:03:22,755 --> 01:03:26,411
da Larryja nije bilo briga
o sigurnosti umjetne inteligencije.

1460
01:03:26,454 --> 01:03:28,892
EMILY CHANG: Elon Musk je rekao
pokrenuli ste OpenAI,

1461
01:03:28,935 --> 01:03:30,981
oboje ste pokrenuli OpenAI jer
bojao se Googlea.

1462
01:03:31,024 --> 01:03:32,156
LADISH: Ti-ti u osnovi
imao temelj

1463
01:03:32,199 --> 01:03:33,722
OpenAI proizlazi iz toga.

1464
01:03:33,766 --> 01:03:35,202
„Dakle, učinit ćemo to bolje.
Učinit ćemo to

1465
01:03:35,246 --> 01:03:36,813
na sigurniji način
ili na otvoreniji način."

1466
01:03:38,466 --> 01:03:40,555
Dakle, to je ono što je pokrenulo OpenAI.

1467
01:03:40,599 --> 01:03:42,731
I tako sada, umjesto
imati jedan AGI projekt,

1468
01:03:42,775 --> 01:03:44,821
imate dva AGI projekta.

1469
01:03:44,864 --> 01:03:46,910
Najgora moguća stvar
to bi se moglo dogoditi

1470
01:03:46,953 --> 01:03:49,608
je ako postoji
više AGI projekata

1471
01:03:49,651 --> 01:03:51,871
učinili različiti ljudi
koji se ne vole

1472
01:03:51,915 --> 01:03:54,787
i svi se natječu
da prvo dođem do AGI.

1473
01:03:54,831 --> 01:03:56,963
Ovo bi bilo najgore
moguća stvar koja se može dogoditi,

1474
01:03:57,007 --> 01:04:00,097
jer bi ovo značilo
da tko je najmanje siguran,

1475
01:04:00,140 --> 01:04:03,143
tko se najviše žrtvuje
na sigurnosti da biste napredovali

1476
01:04:03,187 --> 01:04:05,145
bit će osoba
koji prvi stigne.

1477
01:04:05,189 --> 01:04:07,844
-DANIEL: To je u biti
što se događa, zar ne? -Da.

1478
01:04:07,887 --> 01:04:11,325
Ti i tvoj brat
slavno napustio OpenAI, uh,

1479
01:04:11,369 --> 01:04:12,936
za pokretanje Anthropica.

1480
01:04:12,979 --> 01:04:15,068
RASKIN: I onda Anthropic
započeo jer

1481
01:04:15,112 --> 01:04:17,854
neki istraživači
unutar OpenAI je rekao,

1482
01:04:17,897 --> 01:04:20,508
„Želim otići
i učinite to sigurnije."

1483
01:04:20,552 --> 01:04:23,511
Trebalo vam je nešto dodatno
samo povećati modele,

1484
01:04:23,555 --> 01:04:25,818
što je poravnanje ili sigurnost.

1485
01:04:25,862 --> 01:04:27,428
HENDRYCKS:
“Odgovorniji smo

1486
01:04:27,472 --> 01:04:29,648
ili pouzdaniji
ili moralniji."

1487
01:04:29,691 --> 01:04:31,519
Sada imate tri AGI projekta.

1488
01:04:31,563 --> 01:04:33,043
Ali i sjedenje
stol s tobom

1489
01:04:33,086 --> 01:04:34,827
bit će hrpa AI-ja.

1490
01:04:34,871 --> 01:04:37,525
LADISH: A sad Meta je-je
pokušava učiniti stvari.

1491
01:04:37,569 --> 01:04:39,571
U međuvremenu, novi umjetni
obavještajni natjecatelj

1492
01:04:39,614 --> 01:04:41,573
objavio ovaj tjedan,
Elona Muska...

1493
01:04:41,616 --> 01:04:44,619
HENDRYCKS: xAI, što bi bilo
Organizacija Elona Muska.

1494
01:04:44,663 --> 01:04:46,230
MOŠUS:
Ne vjerujem OpenAI-u.

1495
01:04:46,273 --> 01:04:47,884
Borba između
Elon Musk i OpenAI

1496
01:04:47,927 --> 01:04:49,581
je ušao u novi krug.

1497
01:04:49,624 --> 01:04:51,713
Ne vjerujem Samu Altmanu,
uh, i ja, i ne mislim

1498
01:04:51,757 --> 01:04:54,194
želimo imati najviše
moćna umjetna inteligencija u svijetu

1499
01:04:54,238 --> 01:04:56,414
kontrolira netko
koji nije pouzdan.

1500
01:04:56,457 --> 01:04:58,416
[navijanje i pljesak]

1501
01:04:58,459 --> 01:05:01,593
Poticaj je
nesagledive sume novca.

1502
01:05:01,636 --> 01:05:03,377
-Da.
-Neopisiva je moć.

1503
01:05:03,421 --> 01:05:05,553
-Da.
-Neopisiva je kontrola.

1504
01:05:05,597 --> 01:05:08,034
Ako imate nešto
to je milijun puta pametnije

1505
01:05:08,078 --> 01:05:11,385
i sposobniji od
sve ostalo na planeti Zemlji

1506
01:05:11,429 --> 01:05:14,171
i nitko drugi to nema,

1507
01:05:14,214 --> 01:05:15,955
ta stvar je poticaj.

1508
01:05:15,999 --> 01:05:17,261
Dakle, vi vladate svijetom.

1509
01:05:18,610 --> 01:05:20,394
Ako stvarno vjerujete u ovo,

1510
01:05:20,438 --> 01:05:22,744
ako stvarno u svom srcu
vjeruj ovome,

1511
01:05:22,788 --> 01:05:24,181
onda bi mogao biti
voljan uzeti

1512
01:05:24,224 --> 01:05:26,096
prilično veliki rizik
da se to dogodi.

1513
01:05:26,139 --> 01:05:28,881
Google je upravo objavio
svoj najnoviji AI model.

1514
01:05:28,925 --> 01:05:31,231
Odgovor na OpenAI-jev ChatGPT.

1515
01:05:31,275 --> 01:05:33,059
Kako dolazimo do
ovih deset bilijuna?

1516
01:05:33,103 --> 01:05:35,192
Postaje li NVIDIA najviše
vrijedna tvrtka u SAD-u?

1517
01:05:35,235 --> 01:05:38,978
Ovo je najveći posao
prilika u povijesti.

1518
01:05:39,022 --> 01:05:40,501
U povijesti.

1519
01:05:40,545 --> 01:05:42,242
Dakle, razlog zašto
svi su stvarno razviti

1520
01:05:42,286 --> 01:05:44,679
o umjetnoj inteligenciji
odmah sada

1521
01:05:44,723 --> 01:05:48,031
je zato što
što više te tvrtke hajpaju

1522
01:05:48,074 --> 01:05:50,033
potencijalne sposobnosti
njihove tehnologije,

1523
01:05:50,076 --> 01:05:53,210
što više ulaganja
mogu privući.

1524
01:05:53,253 --> 01:05:54,733
CARL QUINTANILLA:
Amazon ulaže do

1525
01:05:54,776 --> 01:05:56,996
četiri milijarde dolara
u start-upu Anthropic.

1526
01:05:57,040 --> 01:05:58,693
OpenAI postavlja svoje ciljeve

1527
01:05:58,737 --> 01:06:00,739
na polovici blockbustera
procjena od trilijun dolara.

1528
01:06:00,782 --> 01:06:02,001
Pola trilijuna!

1529
01:06:02,045 --> 01:06:03,220
Utrka je u tijeku.

1530
01:06:03,263 --> 01:06:04,612
Ovo se događa
brže nego ikada.

1531
01:06:04,656 --> 01:06:06,614
Jesmo li u AI balonu?
Naravno.

1532
01:06:06,658 --> 01:06:09,182
jednostavno ne vidim
mjehurić puca

1533
01:06:09,226 --> 01:06:12,446
dok još imaš
ovaj veliki ciklus potrošnje.

1534
01:06:12,490 --> 01:06:15,014
RASKIN: Čak i ako mislite
ovo je sve hype,

1535
01:06:15,058 --> 01:06:17,582
postoje milijarde
na bilijune dolara

1536
01:06:17,625 --> 01:06:21,107
teče u izradu AI sustava
moćniji.

1537
01:06:21,151 --> 01:06:23,849
I kad jednom budeš imao tu stvar
to je moćnije,

1538
01:06:23,892 --> 01:06:25,546
tvrtke to mogu koristiti

1539
01:06:25,590 --> 01:06:27,548
kako bi dobili veće profite
i zaraditi više novca.

1540
01:06:27,592 --> 01:06:30,116
Zemlje to mogu koristiti
napraviti jače vojske.

1541
01:06:30,160 --> 01:06:32,814
NVIDIA je prestigla
Microsoft i Apple

1542
01:06:32,858 --> 01:06:36,253
postati svjetski
najvrednija tvrtka.

1543
01:06:36,296 --> 01:06:38,995
Utrka za raspoređivanje postaje
trka do nesmotrenosti,

1544
01:06:39,038 --> 01:06:41,780
jer ne mogu
rasporedite ga tako brzo

1545
01:06:41,823 --> 01:06:43,173
i također ga ispraviti.

1546
01:06:43,216 --> 01:06:46,045
Oni to vjeruju
oni su dobri momci.

1547
01:06:46,089 --> 01:06:49,309
"A ako to ne učinim,
netko tko nema

1548
01:06:49,353 --> 01:06:51,572
"dobre vrijednosti kao ja
će sjediti za stolom

1549
01:06:51,616 --> 01:06:54,445
donositi odluke, dakle
Imam obvezu to učiniti."

1550
01:06:54,488 --> 01:06:56,186
Da, ovo je
vrlo uvriježeno uvjerenje.

1551
01:06:56,229 --> 01:06:58,579
Mnogo, mnogo, mnogo,
možda većina ljudi

1552
01:06:58,623 --> 01:07:00,712
izgradnju ove tehnologije
vjeruj u to.

1553
01:07:00,755 --> 01:07:03,715
Zabrinut sam za
komercijalno natjecanje,

1554
01:07:03,758 --> 01:07:05,847
ali ispada
Još više sam zabrinut

1555
01:07:05,891 --> 01:07:08,024
geopolitičko natjecanje.

1556
01:07:08,067 --> 01:07:10,330
Kasnili smo osam godina
prije godinu dana.

1557
01:07:10,374 --> 01:07:12,593
Sada vjerojatno jesmo
manje od godinu dana iza.

1558
01:07:12,637 --> 01:07:15,683
Pa obje Saudijske Arabije
i UAE su se utrkivali

1559
01:07:15,727 --> 01:07:18,121
za postavljanje podatkovnih centara
i pozicionirati se

1560
01:07:18,164 --> 01:07:20,384
kao dominantna sila u AI...

1561
01:07:20,427 --> 01:07:22,429
...napraviti Južnu Koreju
globalni lider AI.

1562
01:07:22,473 --> 01:07:23,996
JULIA SIEGER:
Francuski predsjednik Emmanuel Macron

1563
01:07:24,040 --> 01:07:25,867
mnogo govorio o
umjetna inteligencija...

1564
01:07:25,911 --> 01:07:27,434
Sada s više o ulozi Izraela

1565
01:07:27,478 --> 01:07:29,610
u umjetnoj inteligenciji
revolucija...

1566
01:07:29,654 --> 01:07:33,092
Zemlje će se natjecati
za čije AI tehnologije

1567
01:07:33,136 --> 01:07:34,876
stvoriti sljedeću generaciju
industrije.

1568
01:07:34,920 --> 01:07:38,010
Kinezi inzistiraju
taj AI,

1569
01:07:38,054 --> 01:07:39,838
kao što je razvijeno u Kini,

1570
01:07:39,881 --> 01:07:41,709
ojačati temeljne vrijednosti

1571
01:07:41,753 --> 01:07:44,016
kineske komunističke partije
i kineski sustav.

1572
01:07:44,060 --> 01:07:48,716
Amerika mora pobijediti Kinu
u AI utrci.

1573
01:07:48,760 --> 01:07:51,023
DANIEL: Kina, kao,
svjetlosnih godina iza.

1574
01:07:51,067 --> 01:07:52,677
jesu li

1575
01:07:52,720 --> 01:07:54,983
Mislim, imaju mnogo više
podatke o obuci nego mi,

1576
01:07:55,027 --> 01:07:57,812
i ništa ne govori da oni
nemoj odustati od modela sljedeći mjesec

1577
01:07:57,856 --> 01:08:00,946
to nije--
ne nadmašuje GPT-4.

1578
01:08:00,989 --> 01:08:03,818
Sve je išlo u redu.
Što bi moglo poći po zlu?

1579
01:08:03,862 --> 01:08:06,691
-DeepSeek... [govori kineski]
-DeepSeek... -DeepSeek...

1580
01:08:06,734 --> 01:08:08,040
Postoji novi model.

1581
01:08:08,084 --> 01:08:10,825
Ali iz kineskog laboratorija
pod nazivom DeepSeek.

1582
01:08:10,869 --> 01:08:13,959
Razgovarajmo o DeepSeeku,
jer je nevjerojatno,

1583
01:08:14,002 --> 01:08:17,658
i ovo trese
cijelu industriju do svoje srži.

1584
01:08:17,702 --> 01:08:19,399
Trumpova administracija
osigurat će

1585
01:08:19,443 --> 01:08:23,055
taj najmoćniji
AI sustavi izgrađeni su u SAD-u

1586
01:08:23,099 --> 01:08:26,537
s američkim dizajnom
i proizvodio čips.

1587
01:08:26,580 --> 01:08:28,800
AI je kineska
Projekt Apollo.

1588
01:08:28,843 --> 01:08:30,193
Kineska komunistička partija

1589
01:08:30,236 --> 01:08:31,542
duboko razumije potencijal

1590
01:08:31,585 --> 01:08:32,891
za AI da poremeti ratovanje.

1591
01:08:32,934 --> 01:08:35,328
Google više ne obećava
da neće

1592
01:08:35,372 --> 01:08:38,418
koristiti umjetnu inteligenciju
za oružje ili nadzor.

1593
01:08:38,462 --> 01:08:40,028
Kina, Sjeverna Koreja, Rusija

1594
01:08:40,072 --> 01:08:41,900
nastavit će ga graditi
što je brže moguće

1595
01:08:41,943 --> 01:08:44,511
kako bi dobili veću ekonomsku prednost,
veća prednost produktivnosti,

1596
01:08:44,555 --> 01:08:46,818
više znanstvene prednosti,
veća vojna prednost,

1597
01:08:46,861 --> 01:08:48,646
jer AI pravi bolje oružje.

1598
01:08:48,689 --> 01:08:51,736
Ako govorite o
sustav kao širok i sposoban

1599
01:08:51,779 --> 01:08:53,303
kao briljantan znanstvenik,

1600
01:08:53,346 --> 01:08:57,959
možda bi se moglo pokrenuti
vojni pohod

1601
01:08:58,003 --> 01:09:01,441
bolji od bilo kojeg generala
u američkoj vladi upravo sada.

1602
01:09:01,485 --> 01:09:05,489
Tajvan je problem koji stvara
trenutno najviše napetosti

1603
01:09:05,532 --> 01:09:07,882
između Pekinga i SAD-a.

1604
01:09:07,926 --> 01:09:10,450
Postoji izravan
oporbeno neslaganje

1605
01:09:10,494 --> 01:09:11,973
između SAD-a i Kine

1606
01:09:12,017 --> 01:09:13,975
o tome je li Tajvan
dio Kine.

1607
01:09:14,019 --> 01:09:18,415
MATHENY: Tajvan je važan
iz toliko razloga.

1608
01:09:18,458 --> 01:09:20,547
Također je i dom

1609
01:09:20,591 --> 01:09:24,160
oko 90% naprednog čipa
proizvodnja za svijet,

1610
01:09:24,203 --> 01:09:28,381
što znači da opskrba
lanac za napredno računanje

1611
01:09:28,425 --> 01:09:31,036
je u opasnosti ako postoji

1612
01:09:31,079 --> 01:09:32,951
nekakav scenarij
oko Tajvana,

1613
01:09:32,994 --> 01:09:37,999
li a-blokada
ili invaziju Kine.

1614
01:09:38,043 --> 01:09:40,698
HENDRYCKS:
Hoćemo li biti u nekoj utrci

1615
01:09:40,741 --> 01:09:45,616
između SAD-a i Kine
koji se na kraju pretvara u

1616
01:09:45,659 --> 01:09:49,359
militarizirana AI utrka u naoružanju i,
znaš, potencijalno vodi

1617
01:09:49,402 --> 01:09:51,274
na neki sukob velikih sila?

1618
01:09:51,317 --> 01:09:53,014
NICK SCHIFRIN: Odlazeći
najviši američki vojni zapovjednik

1619
01:09:53,058 --> 01:09:55,843
u regiji
predviđeni rat dolazi.

1620
01:09:55,887 --> 01:09:57,932
Mislim da je prijetnja očita
tijekom ovog desetljeća,

1621
01:09:57,976 --> 01:09:59,456
zapravo, u sljedećih šest godina.

1622
01:09:59,499 --> 01:10:01,414
MATHENY:
Hm, jedan od scenarija

1623
01:10:01,458 --> 01:10:05,853
ono oko čega se brinem je
cyber flash rat,

1624
01:10:05,897 --> 01:10:10,902
hm, onaj u kojem
cyber alate koji su autonomni

1625
01:10:10,945 --> 01:10:12,947
natječu jedni protiv drugih

1626
01:10:12,991 --> 01:10:14,601
na načine koji su eskalirajući

1627
01:10:14,645 --> 01:10:16,386
bez
smislena ljudska kontrola.

1628
01:10:18,823 --> 01:10:20,433
HARARI:
Živiš u ratnoj zoni,

1629
01:10:20,477 --> 01:10:23,784
o tome će odlučivati AI
hoće li ti bombardirati kuću

1630
01:10:23,828 --> 01:10:25,743
i da li da te ubijem.

1631
01:10:25,786 --> 01:10:27,527
Pustimo stroj da odluči.

1632
01:10:27,571 --> 01:10:29,355
To je iskušenje.

1633
01:10:29,399 --> 01:10:32,576
Zato je umjetna inteligencija tako primamljiva
za usvajanje vojske,

1634
01:10:32,619 --> 01:10:35,753
stvoriti autonomno oružje,
jer ako počnem vjerovati

1635
01:10:35,796 --> 01:10:39,147
taj moj vojni protivnik
će usvojiti AI,

1636
01:10:39,191 --> 01:10:41,802
bit će to utrka tko može
povucite okidač brže.

1637
01:10:41,846 --> 01:10:44,892
I to onaj koji automatizira
ta odluka,

1638
01:10:44,936 --> 01:10:47,199
nego imati
čovjek u krugu,

1639
01:10:47,243 --> 01:10:49,201
je onaj
koji će pobijediti u tom ratu.

1640
01:10:49,245 --> 01:10:50,637
A ako razmislite o

1641
01:10:50,681 --> 01:10:53,074
utrka u nuklearnom naoružanju
u 1940-ima...

1642
01:10:54,554 --> 01:10:56,556
...znate Nijemce
rade na bombi,

1643
01:10:56,600 --> 01:11:00,734
tako da nije tako lako reći
Robert Oppenheimer tada,

1644
01:11:00,778 --> 01:11:03,781
"Uh, znaš, uspori."

1645
01:11:03,824 --> 01:11:05,304
Dakle, nakon gledanja ovog filma,
bit će zbunjujuće,

1646
01:11:05,348 --> 01:11:06,653
jer ćeš se vratiti,

1647
01:11:06,697 --> 01:11:08,307
i sutra
koristit ćeš ChatGPT,

1648
01:11:08,351 --> 01:11:10,440
i bit će
nevjerojatno korisno.

1649
01:11:10,483 --> 01:11:12,703
I ja ću ga također koristiti, i
bit će od nevjerojatne pomoći.

1650
01:11:12,746 --> 01:11:16,141
A ti ćeš reći: "Čekaj, dakle
Upravo sam vidio ovaj film o umjetnoj inteligenciji

1651
01:11:16,184 --> 01:11:18,012
"i egzistencijalni rizik
i sve ove stvari,

1652
01:11:18,056 --> 01:11:20,624
i gdje je opet prijetnja?"

1653
01:11:20,667 --> 01:11:24,715
A nije da ChatGPT jest
egzistencijalnu prijetnju.

1654
01:11:24,758 --> 01:11:28,675
To je utrka za raspoređivanje
najmoćniji,

1655
01:11:28,719 --> 01:11:31,635
nedokučiv,
nekontrolirana tehnologija,

1656
01:11:31,678 --> 01:11:35,116
pod najgorim
mogući poticaji,

1657
01:11:35,160 --> 01:11:37,031
to je egzistencijalna prijetnja.

1658
01:11:38,119 --> 01:11:40,383
DANIEL:
Ali pogađa me to-to

1659
01:11:40,426 --> 01:11:43,211
nalazimo se u kontekstu rase.

1660
01:11:43,255 --> 01:11:45,910
-SUTSKEVER: Da.
-I to je u natjecanju,

1661
01:11:45,953 --> 01:11:47,651
"moram stići prvi,
moram pobijediti u utrci",

1662
01:11:47,694 --> 01:11:49,000
"moram se natjecati protiv Kine,

1663
01:11:49,043 --> 01:11:50,349
moram se natjecati protiv
drugi laboratoriji."

1664
01:11:50,393 --> 01:11:51,829
nije li tako?

1665
01:11:51,872 --> 01:11:53,657
Danas je to slučaj.

1666
01:11:53,700 --> 01:11:56,703
Dakle, moramo se promijeniti
ta dinamika utrke.

1667
01:11:57,922 --> 01:11:59,924
ne misliš li

1668
01:11:59,967 --> 01:12:02,187
Mislim da bi to bilo
doista jako dobro.

1669
01:12:03,710 --> 01:12:06,496
Ja-mislim
postoji neka vrsta...

1670
01:12:06,539 --> 01:12:09,542
misticizam oko AI
zbog toga se osjeća kao

1671
01:12:09,586 --> 01:12:11,718
pao je s neba.

1672
01:12:11,762 --> 01:12:13,459
DANIEL: Razmišljajući o ovome
kao bogolika tehnologija

1673
01:12:13,503 --> 01:12:15,418
je problem.

1674
01:12:15,461 --> 01:12:16,897
Da.

1675
01:12:18,072 --> 01:12:19,900
zašto

1676
01:12:19,944 --> 01:12:22,990
Daje licencu
tvrtkama da...

1677
01:12:23,034 --> 01:12:26,254
[smijeh]
ne preuzeti odgovornost

1678
01:12:26,298 --> 01:12:30,781
za stvari koje softver
da su izgradili čini.

1679
01:12:30,824 --> 01:12:35,089
Kad bi ljudi uspostavili tu vezu,

1680
01:12:35,133 --> 01:12:37,527
možda bi to, kao,
pomozite im da ponovno razumiju

1681
01:12:37,570 --> 01:12:41,835
dinamika od
sav novac i moć i...

1682
01:12:41,879 --> 01:12:45,317
kaos koji se događa...

1683
01:12:45,361 --> 01:12:47,101
stvoriti ovu tehnologiju.

1684
01:12:47,145 --> 01:12:49,234
To je, kao, pet momaka
tko to kontrolira, zar ne?

1685
01:12:49,277 --> 01:12:51,628
- Kao, pet muškaraca?
- Uglavnom, da.

1686
01:12:51,671 --> 01:12:53,847
- Izvršni direktori?
-Da.

1687
01:12:53,891 --> 01:12:55,371
U redu.

1688
01:12:56,720 --> 01:12:58,722
♪ ♪

1689
01:13:01,072 --> 01:13:03,074
DANIEL:
Ponekad se čini kao

1690
01:13:03,117 --> 01:13:07,252
Bio sam na ovome
samo, kao, beskrajno putovanje

1691
01:13:07,295 --> 01:13:09,341
pokušavajući ovo razumjeti.

1692
01:13:09,385 --> 01:13:12,388
Znate, kao
Penjem se na planinu...

1693
01:13:15,608 --> 01:13:19,133
...i svaki put
Ja se, kao, penjem na brdo,

1694
01:13:19,177 --> 01:13:20,744
Mislim da sam stigao do vrha,

1695
01:13:20,787 --> 01:13:23,399
ali samo se nastavlja
i ide i ide.

1696
01:13:23,442 --> 01:13:24,530
[škljocanje kamere, zujanje]

1697
01:13:24,574 --> 01:13:26,967
Ali iz svega što sam čuo,

1698
01:13:27,011 --> 01:13:30,362
kad bih morao pogoditi što je
na vrhu planine tjeskobe,

1699
01:13:30,406 --> 01:13:34,192
to je ovih pet izvršnih direktora
od ovih pet tvrtki,

1700
01:13:34,235 --> 01:13:37,630
koji su poput
Oppenheimeri ovog trenutka.

1701
01:13:37,674 --> 01:13:39,458
Ovo su dečki
koji grade ovu stvar.

1702
01:13:39,502 --> 01:13:40,807
Da.

1703
01:13:40,851 --> 01:13:44,158
Kao, postoji li plan?

1704
01:13:44,202 --> 01:13:46,422
Šef tvrtke
to čini ChatGPT

1705
01:13:46,465 --> 01:13:49,947
upozorio na moguće
značajnu štetu svijetu.

1706
01:13:49,990 --> 01:13:52,384
Mislim, ako ova tehnologija
pođe krivo,

1707
01:13:52,428 --> 01:13:53,472
može poći sasvim krivo.

1708
01:13:53,516 --> 01:13:55,779
[rafali jasnog brbljanja]

1709
01:13:55,822 --> 01:13:57,781
DANIEL:
Pet tipova.

1710
01:13:57,824 --> 01:14:01,567
Nikada nisam razmišljao o nama
kao tvrtka društvenih medija.

1711
01:14:01,611 --> 01:14:06,050
Čini mi se da moram pokušati
i-i nađi ove dečke...

1712
01:14:06,093 --> 01:14:07,181
Mm-hmm.

1713
01:14:07,225 --> 01:14:09,009
...i ubaciti ih u film.

1714
01:14:10,315 --> 01:14:12,622
Svakako bismo dobili
neka jasnoća iz toga.

1715
01:14:13,666 --> 01:14:14,928
[škljocanje kamere, zujanje]

1716
01:14:16,582 --> 01:14:19,150
Mislim, novac mora prestati
negdje, zar ne?

1717
01:14:19,193 --> 01:14:21,152
[fijuk vjetra]

1718
01:14:21,195 --> 01:14:22,936
♪ ♪

1719
01:14:23,981 --> 01:14:25,896
[zujanje alata i klikanje]

1720
01:14:27,071 --> 01:14:29,116
[šištanje]

1721
01:14:34,034 --> 01:14:35,296
DANIEL:
Kakav je osjećaj?

1722
01:14:35,340 --> 01:14:37,690
-Super.
- To je u redu?

1723
01:14:37,734 --> 01:14:39,431
-Da.
-[nejasno brbljanje posade]

1724
01:14:39,475 --> 01:14:40,998
-Mogu li pomaknuti sjedalo naprijed?
-DANIEL: Da, možeš.

1725
01:14:41,041 --> 01:14:42,173
To je, uh, to je samo
malo neugodno.

1726
01:14:42,216 --> 01:14:43,566
Ja sam malo, kao...

1727
01:14:43,609 --> 01:14:45,045
Dario, kako se osjećaš
o toj stolici?

1728
01:14:45,089 --> 01:14:47,004
Hm, da, stolica je dobra.

1729
01:14:47,047 --> 01:14:48,832
-Samo sam ga htio pomaknuti
malo naprijed. -U redu.

1730
01:14:48,875 --> 01:14:50,529
Odabrao sam tu stolicu.

1731
01:14:50,573 --> 01:14:52,139
- To je dobra stolica.
-Hvala.

1732
01:14:52,183 --> 01:14:53,619
[zvoni mobitel]

1733
01:14:57,884 --> 01:14:59,495
TED:
I samo sjedni tamo.

1734
01:15:01,409 --> 01:15:03,063
A onda ovuda,

1735
01:15:03,107 --> 01:15:04,369
gledat ćemo se
kroz ovo staklo.

1736
01:15:04,412 --> 01:15:06,458
[zvučni signal zauzeća]

1737
01:15:11,419 --> 01:15:13,552
I sjedajući natrag u stolicu,
naginjući se naprijed?

1738
01:15:13,596 --> 01:15:15,119
-DANIEL: Da. Pa, što god je
udobno, mislim. -U redu.

1739
01:15:15,162 --> 01:15:16,686
Nekako je cool.
Postoji hrpa ogledala.

1740
01:15:16,729 --> 01:15:17,817
-Je li to-- u redu.
-ŽENA: Sam A., uzmi jednu. Ocjena.

1741
01:15:17,861 --> 01:15:19,515
- Kako to?
-Dobro. Hvala.

1742
01:15:19,558 --> 01:15:21,038
DANIEL: Postanak
ovog projekta je da sam bio

1743
01:15:21,081 --> 01:15:22,822
sjediti kod kuće,
i igrao sam se sa,

1744
01:15:22,866 --> 01:15:24,389
Mislim da je vaš generator slike,

1745
01:15:24,432 --> 01:15:27,261
i bio sam istovremeno,
uh, prestravljen

1746
01:15:27,305 --> 01:15:29,437
-i stvarno impresioniran.
-[tiho se nasmije]

1747
01:15:29,481 --> 01:15:31,875
- To je uobičajena kombinacija.
-A onda prekinite

1748
01:15:31,918 --> 01:15:34,617
moja žena i ja saznajemo
očekujemo.

1749
01:15:34,660 --> 01:15:38,272
I-i ja, kao, imam
egzistencijalnu krizu

1750
01:15:38,316 --> 01:15:40,231
kao što je moja žena
trudna šest mjeseci.

1751
01:15:40,274 --> 01:15:42,929
I mislim da je moje prvo pitanje
što pitam sve:

1752
01:15:42,973 --> 01:15:45,453
Sada je užasno vrijeme
imati dijete?

1753
01:15:45,497 --> 01:15:47,368
Činim li veliku grešku?

1754
01:15:47,412 --> 01:15:49,022
Čekam dijete
u ožujku također. Moj prvi.

1755
01:15:49,066 --> 01:15:50,502
- Čekaš dijete?
-Da.

1756
01:15:50,546 --> 01:15:51,808
- Očekuješ u ožujku?
- Prvo dijete.

1757
01:15:51,851 --> 01:15:53,287
-Mazel tov.
- Puno vam hvala.

1758
01:15:53,331 --> 01:15:54,462
Nikada nisam bila tako uzbuđena
za bilo što.

1759
01:15:54,506 --> 01:15:56,464
-Tako se osjećam.
-Da.

1760
01:15:56,508 --> 01:15:58,205
Ali ne bojiš se?

1761
01:15:58,249 --> 01:16:02,732
Mislim, imati dijete je
samo ova važna stvar

1762
01:16:02,775 --> 01:16:04,995
da ja, znaš,
Ostajem budan svaku noć, kao,

1763
01:16:05,038 --> 01:16:06,823
čitajući ove knjige o
kako odgojiti dijete,

1764
01:16:06,866 --> 01:16:08,215
i nadam se
Napravit ću dobar posao,

1765
01:16:08,259 --> 01:16:09,260
i osjeća se
vrlo neodoljivo i--

1766
01:16:09,303 --> 01:16:12,045
ali nije me strah...

1767
01:16:12,089 --> 01:16:14,047
da djeca odrastu
u svijetu s umjetnom inteligencijom.

1768
01:16:14,091 --> 01:16:16,310
Kao, to je... to će biti u redu.

1769
01:16:16,354 --> 01:16:19,009
To je dobro čuti
dolazi od tipa.

1770
01:16:19,052 --> 01:16:20,750
Mislim da je to divna ideja
imati djecu.

1771
01:16:20,793 --> 01:16:23,230
Mislim da su oni najviše
čarobna, nevjerojatna stvar.

1772
01:16:23,274 --> 01:16:25,276
-[teško uzdahne]
- Toliko je neizvjesnosti,

1773
01:16:25,319 --> 01:16:26,843
Gotovo bih jednostavno učinio
što ćeš uopće učiniti.

1774
01:16:26,886 --> 01:16:28,932
Znam da nije
vrlo zadovoljavajući odgovor,

1775
01:16:28,975 --> 01:16:31,891
ali to je jedini
Mogu smisliti.

1776
01:16:31,935 --> 01:16:34,459
Naša djeca nikad neće...

1777
01:16:34,502 --> 01:16:37,070
upoznati svijet koji nema
stvarno napredan AI.

1778
01:16:37,114 --> 01:16:39,856
Zapravo, naša djeca nikada neće
biti pametniji od umjetne inteligencije.

1779
01:16:39,899 --> 01:16:42,075
DANIEL: "Naša djeca hoće
nikada ne biti pametniji od umjetne inteligencije"?

1780
01:16:42,119 --> 01:16:44,338
Pa, iz sirovog,
iz perspektive sirovog IQ-a,

1781
01:16:44,382 --> 01:16:46,253
nikada neće biti
pametniji od umjetne inteligencije.

1782
01:16:46,297 --> 01:16:48,038
Taj pojam ne
malo te uznemiriti?

1783
01:16:48,081 --> 01:16:51,128
Jer se zbog toga osjećam
malo mučnina na čudan način.

1784
01:16:51,171 --> 01:16:54,784
Hm, to me uznemiruje
pomalo.

1785
01:16:54,827 --> 01:16:56,263
Ali to je stvarnost.

1786
01:16:56,307 --> 01:16:58,265
DANIEL:
U redu, dakle dinamika utrke.

1787
01:16:58,309 --> 01:17:01,007
Imamo hrpu ljudi
koji su svi složni

1788
01:17:01,051 --> 01:17:02,879
da je ovo strašno.

1789
01:17:02,922 --> 01:17:04,750
Na temelju vremenskih crta koje
mnogo ljudi mi je dalo,

1790
01:17:04,794 --> 01:17:07,013
imamo između dva mjeseca i
pet godina da ovo shvatim.

1791
01:17:07,057 --> 01:17:08,667
-Da.
-I-i, valjda,

1792
01:17:08,711 --> 01:17:12,845
moje najveće pitanje je:
Zašto jednostavno ne možemo stati?

1793
01:17:14,499 --> 01:17:19,069
Problem sa, uh, uh,
"samo prestati" je to, um,

1794
01:17:19,112 --> 01:17:22,202
sada postoji mnogo, mnogo grupa
diljem svijeta, uh, uh,

1795
01:17:22,246 --> 01:17:25,684
gradeći ovo, za
mnoge nacije, mnoge kompanije,

1796
01:17:25,728 --> 01:17:28,121
hm, svi sa
različite motivacije.

1797
01:17:28,165 --> 01:17:30,776
Postoje neki od
ove tvrtke u ovom prostoru

1798
01:17:30,820 --> 01:17:33,997
tko je njihov stav, "Mi želimo
za razvoj ove tehnologije

1799
01:17:34,040 --> 01:17:36,042
apsolutno što je brže moguće."

1800
01:17:36,086 --> 01:17:40,046
Pa čak i kad bismo mogli donositi zakone
u SAD-u i Europi,

1801
01:17:40,090 --> 01:17:42,396
moramo uvjeriti...

1802
01:17:42,440 --> 01:17:44,964
Xi Jinping i Vladimir Putin
ili, znaš,

1803
01:17:45,008 --> 01:17:47,445
tko god njihov znanstveni
savjetnici su na njihovoj strani.

1804
01:17:47,488 --> 01:17:49,229
To će biti jako teško.

1805
01:17:49,273 --> 01:17:50,927
Mislim da je istina

1806
01:17:50,970 --> 01:17:53,581
da ako su dvije osobe
na potpuno istom mjestu,

1807
01:17:53,625 --> 01:17:55,888
uh, onaj koji je spreman uzeti
više prečaca za sigurnost

1808
01:17:55,932 --> 01:17:58,064
trebao bi nekako
"stići prvi."

1809
01:17:58,108 --> 01:18:01,067
Uh, ali...

1810
01:18:01,111 --> 01:18:02,939
možemo iskoristiti svoje vodstvo

1811
01:18:02,982 --> 01:18:05,985
provesti puno više vremena
obavljanje sigurnosnih ispitivanja.

1812
01:18:06,029 --> 01:18:07,987
DANIEL:
I-a što ako ga izgubiš?

1813
01:18:08,031 --> 01:18:09,597
Dobili ste poziv
a vi saznajte

1814
01:18:09,641 --> 01:18:11,687
da si sada, recimo,
šest mjeseci iza.

1815
01:18:11,730 --> 01:18:14,254
-Š-Što ​​se onda događa?
- Ovisi iza koga zaostajemo.

1816
01:18:14,298 --> 01:18:16,822
Ako je, kao,
protivnička vlada,

1817
01:18:16,866 --> 01:18:18,824
to je vjerojatno jako loše.

1818
01:18:18,868 --> 01:18:21,348
Pa recimo da ste primili poziv
da Kina ima,

1819
01:18:21,392 --> 01:18:24,787
ima rekurzivno
sredstvo za samopoboljšanje

1820
01:18:24,830 --> 01:18:27,180
ili tako nešto što mi
treba biti stvarno zabrinut.

1821
01:18:27,224 --> 01:18:29,226
Što-- što-što se događa?

1822
01:18:30,967 --> 01:18:32,403
Hm...

1823
01:18:35,406 --> 01:18:37,234
Taj bi slučaj zahtijevao...

1824
01:18:37,277 --> 01:18:40,672
prvi bi korak bio
razgovarati s vladom SAD-a.

1825
01:18:40,716 --> 01:18:42,935
Sam, vjeruješ li
sposobnost vlade da se nosi

1826
01:18:42,979 --> 01:18:44,676
ovako nešto?

1827
01:18:45,895 --> 01:18:47,766
Da, želim, zapravo.

1828
01:18:47,810 --> 01:18:49,550
Postoje druge stvari koje ne znam
vjeruj vladi da će to riješiti,

1829
01:18:49,594 --> 01:18:51,161
ali taj određeni scenarij,
Mislim da bi znali...

1830
01:18:51,204 --> 01:18:52,771
oni-oni-- da.

1831
01:18:52,815 --> 01:18:54,425
DANIEL: Kad imaš,
kao, privatne rasprave

1832
01:18:54,468 --> 01:18:56,383
s ostalim dečkima čiji
prsti su na obaraču,

1833
01:18:56,427 --> 01:18:59,604
da tako kažem, hm,
voditi one privatne rasprave

1834
01:18:59,647 --> 01:19:01,301
ispuniti vas povjerenjem

1835
01:19:01,345 --> 01:19:03,347
ili te tjeraju,
uh, tjeskobniji?

1836
01:19:03,390 --> 01:19:07,090
Gledaj, mislim, znam neke
od njih bolji od drugih.

1837
01:19:07,133 --> 01:19:10,136
Hm, imam više samopouzdanja
u nekima od njih th-nego što imam

1838
01:19:10,180 --> 01:19:12,356
u drugima, znaš,
kao kod, kao kod bilo kojeg naroda.

1839
01:19:12,399 --> 01:19:14,140
znaš,
razmišljaš o, znaš,

1840
01:19:14,184 --> 01:19:15,838
djeca u tvojoj srednjoj školi
razred ili tako nešto, zar ne?

1841
01:19:15,881 --> 01:19:18,275
Znate, neki od njih su,
znaš, stvarno slatko.

1842
01:19:18,318 --> 01:19:20,407
Neki od njih su dobronamjerni
ali ne tako učinkovito.

1843
01:19:20,451 --> 01:19:22,366
Neki od njih su,
znate, nasilnici.

1844
01:19:22,409 --> 01:19:23,759
Neki od njih jesu
stvarno loši ljudi.

1845
01:19:23,802 --> 01:19:25,673
[muca]
Ti-ti nekako stvarno,

1846
01:19:25,717 --> 01:19:27,066
stvarno vidite širenje.

1847
01:19:27,110 --> 01:19:28,807
Znaš, jesam li, jesam li,
jesam li uvjeren

1848
01:19:28,851 --> 01:19:30,548
to će svi učiniti
prava stvar,

1849
01:19:30,591 --> 01:19:32,028
da će sve uspjeti?

1850
01:19:32,071 --> 01:19:33,856
Hm, ne, nisam.

1851
01:19:33,899 --> 01:19:35,509
I nema-nema ništa
Mogu ja to učiniti, zar ne?

1852
01:19:35,553 --> 01:19:37,773
Znaš, sve-sve što mogu učiniti
je-je guranje za,

1853
01:19:37,816 --> 01:19:39,165
gurati za, znaš,

1854
01:19:39,209 --> 01:19:40,776
gurati za vladu
uključiti se.

1855
01:19:40,819 --> 01:19:42,647
Ali na kraju sam samo
jedna osoba također.

1856
01:19:42,690 --> 01:19:44,127
to je...
to je-to ovisi o svima nama

1857
01:19:44,170 --> 01:19:46,042
gurati za vladu
uključiti se.

1858
01:19:46,085 --> 01:19:48,479
To je stvar broj jedan
to-to mislim da trebamo učiniti

1859
01:19:48,522 --> 01:19:50,916
do-do, znate, postaviti stvari
u pravom smjeru.

1860
01:19:50,960 --> 01:19:52,744
Što me čini tjeskobnim
o tome je, kao,

1861
01:19:52,788 --> 01:19:56,182
osnovna stvarnost koju je
brzina kojom tehnologija

1862
01:19:56,226 --> 01:19:58,402
se razmnožava i raste
je eksponencijalan,

1863
01:19:58,445 --> 01:20:01,448
i mehanizmi za donošenje zakona
stari su 300 godina,

1864
01:20:01,492 --> 01:20:02,928
- uzeti zauvijek.
-Da.

1865
01:20:02,972 --> 01:20:05,104
Hm, mislim
bit će to teško dizanje.

1866
01:20:05,148 --> 01:20:06,889
Definitivno se slažem
s tobom na tome.

1867
01:20:06,932 --> 01:20:08,891
DANIEL: Znaš,
ono što doslovno tražim

1868
01:20:08,934 --> 01:20:11,241
je-je kao,
"Ovdje su koraci koji, kao,

1869
01:20:11,284 --> 01:20:15,158
"glavni honchos će
usredotočiti se na sigurnost,

1870
01:20:15,201 --> 01:20:18,117
ublažiti opasnost
i maksimizirati obećanje."

1871
01:20:18,161 --> 01:20:20,119
a ja ne,
Ne znam, ne znam

1872
01:20:20,163 --> 01:20:21,817
da postoji
jednostavan odgovor na to.

1873
01:20:21,860 --> 01:20:23,296
Hm...

1874
01:20:25,951 --> 01:20:27,561
Mislim, ovo možda jest
previše jednostavno,

1875
01:20:27,605 --> 01:20:30,173
ali ti...

1876
01:20:30,216 --> 01:20:31,957
stvoriti novi model,

1877
01:20:32,001 --> 01:20:34,786
proučavaš i testiraš
vrlo pažljivo.

1878
01:20:34,830 --> 01:20:37,223
Ti ga ugasi
u svijet postupno,

1879
01:20:37,267 --> 01:20:39,530
a onda, sve više i više,
razumiješ

1880
01:20:39,573 --> 01:20:41,227
ako je to sigurno ili ne,
i onda ako jeste,

1881
01:20:41,271 --> 01:20:42,707
možete poduzeti sljedeći korak.

1882
01:20:44,404 --> 01:20:47,103
Ne zvuči tako blistavo
kao, kao, briljantan znanstvenik

1883
01:20:47,146 --> 01:20:50,454
doći na jednu ideju u a
laboratorij za izradu AI sustava, kao,

1884
01:20:50,497 --> 01:20:53,979
savršeno siguran i kontroliran
i sve ostalo,

1885
01:20:54,023 --> 01:20:55,720
ali to je ono što ja vjerujem
će se dogoditi.

1886
01:20:55,763 --> 01:20:57,287
Kao, to je način
Mislim da ovo funkcionira.

1887
01:20:57,330 --> 01:20:59,289
Ali recimo samo
dogodi se nešto strašno,

1888
01:20:59,332 --> 01:21:01,813
kao model se otkači
ili postane lupež ili tako nešto.

1889
01:21:01,857 --> 01:21:03,467
Postoji li protokol?

1890
01:21:03,510 --> 01:21:05,817
Kao, doslovno,
Zamišljam crveni telefon.

1891
01:21:05,861 --> 01:21:07,123
-Da.
- Oprosti što mislim na ovo

1892
01:21:07,166 --> 01:21:08,515
što se tiče filmova, ali, kao...

1893
01:21:08,559 --> 01:21:09,995
Postoji protokol.

1894
01:21:10,039 --> 01:21:11,475
-Ima li crveni telefon
na tvom stolu? -Ne.

1895
01:21:11,518 --> 01:21:13,216
[smijeh]:
Je li to tajna?

1896
01:21:13,259 --> 01:21:15,392
Mislim, uh, ne, nije,
nije tako otmjeno ili dramatično

1897
01:21:15,435 --> 01:21:17,176
kao što bi se ti nadao,
ali postoji, kao, znaš--

1898
01:21:17,220 --> 01:21:18,874
mi smo, kao, razmislili
ovi scenariji,

1899
01:21:18,917 --> 01:21:20,527
i ako se ovo dogodi,
pozvat ćemo ove ljude

1900
01:21:20,571 --> 01:21:21,964
ovim redom i učinite ovo

1901
01:21:22,007 --> 01:21:23,443
i vrsta napraviti
ove odluke ako, kao--

1902
01:21:23,487 --> 01:21:26,055
Vjerujem u to
kad imate priliku

1903
01:21:26,098 --> 01:21:29,058
da razmislite prije
dogodi se stresna situacija,

1904
01:21:29,101 --> 01:21:30,407
to je gotovo uvijek
dobra ideja.

1905
01:21:30,450 --> 01:21:31,756
I zapisivanje je korisno.

1906
01:21:31,799 --> 01:21:33,279
- Biti spreman je od pomoći.
-Da.

1907
01:21:34,324 --> 01:21:36,021
[uzdah] Ti...

1908
01:21:36,065 --> 01:21:38,763
Bilo bi nemoguće
da ja sjedim preko puta tebe

1909
01:21:38,806 --> 01:21:41,157
i-i zamoliti te da mi obećaš
da će ovo dobro proći?

1910
01:21:41,200 --> 01:21:43,855
To je nemoguće.

1911
01:21:43,899 --> 01:21:45,683
Nema lakih odgovora,
na žalost.

1912
01:21:45,726 --> 01:21:48,077
Uh, jer je tako
vrhunska tehnologija,

1913
01:21:48,120 --> 01:21:49,774
hm, ima još
puno nepoznanica.

1914
01:21:49,817 --> 01:21:52,255
I ja to mislim
to-to treba biti,

1915
01:21:52,298 --> 01:21:55,040
hm, uh, znaš, razumijem

1916
01:21:55,084 --> 01:21:58,957
i-i stoga potreba
za, uh, uh, malo opreza.

1917
01:21:59,001 --> 01:22:00,872
Budim se, znaš, svaki dan,

1918
01:22:00,916 --> 01:22:03,440
ovo je, ovo je
broj jedan o čemu razmišljam.

1919
01:22:03,483 --> 01:22:05,137
Sada, gledaj, ja sam čovjek,

1920
01:22:05,181 --> 01:22:08,358
i, znaš, ima-ima
je li svaka odluka bila savršena?

1921
01:22:08,401 --> 01:22:11,622
Mogu li uopće reći svoje motivacije
bili uvijek savršeno jasni?

1922
01:22:11,665 --> 01:22:13,537
Naravno da nije.
Nitko to ne može reći.

1923
01:22:13,580 --> 01:22:16,366
Kao, to je-to je
samo ne, kao, znaš--

1924
01:22:16,409 --> 01:22:18,629
to je-to jednostavno nije
kako ljudi rade.

1925
01:22:18,672 --> 01:22:21,023
Povijest znanosti
teži tome,

1926
01:22:21,066 --> 01:22:23,547
u dobru i u zlu,
ako je nešto moguće učiniti...

1927
01:22:23,590 --> 01:22:26,985
i sada znamo da je umjetna inteligencija moguća
učiniti-- čovječanstvo to čini.

1928
01:22:27,029 --> 01:22:29,727
Sve ovo
bilo-trebalo se dogoditi.

1929
01:22:29,770 --> 01:22:32,295
Ovaj-ovaj vlak
neće prestati.

1930
01:22:32,338 --> 01:22:34,253
Ne smiješ stajati ispred
vlak i zaustaviti ga.

1931
01:22:34,297 --> 01:22:36,255
Samo ćeš se zgnječiti.

1932
01:22:36,299 --> 01:22:38,388
ALTMAN:
Mislim, jako je stresno.

1933
01:22:39,606 --> 01:22:41,043
Znaš, postoji, kao,

1934
01:22:41,086 --> 01:22:42,653
puno stvari
mnogi od nas ne znaju.

1935
01:22:42,696 --> 01:22:46,352
Mislim da povijest
znanstvenog otkrića je

1936
01:22:46,396 --> 01:22:48,267
jedan od nepoznavanja
ono što ne znaš

1937
01:22:48,311 --> 01:22:49,660
i shvaćanje usput.

1938
01:22:49,703 --> 01:22:52,968
Uh, ali, da, to je...

1939
01:22:53,011 --> 01:22:56,580
to je stresan način života.

1940
01:22:56,623 --> 01:22:58,756
DANIEL: Tako je. Sam, hvala ti
puno za ovo.

1941
01:22:58,799 --> 01:23:00,497
-I opet, mazel tov.
-Hvala. I vama.

1942
01:23:00,540 --> 01:23:02,673
hvala ti puno Hvala, ljudi.

1943
01:23:02,716 --> 01:23:05,458
♪ ♪

1944
01:23:07,678 --> 01:23:08,984
[uzdahne]

1945
01:23:10,986 --> 01:23:13,162
[pucketanje struje]

1946
01:23:13,205 --> 01:23:15,599
-[grmljavina]
-[šištanje, gunđanje]

1947
01:23:42,626 --> 01:23:44,628
-[VCR klikne]
-[linija zvoni]

1948
01:23:47,848 --> 01:23:49,285
-[klikovi linije]
-KEVIN ROHER: Zdravo.

1949
01:23:49,328 --> 01:23:50,547
DANIEL:
Hej, tata, kako si?

1950
01:23:50,590 --> 01:23:51,591
KEVIN:
dobro. kako si

1951
01:23:51,635 --> 01:23:53,071
Radiš li? što namjeravaš

1952
01:23:53,115 --> 01:23:55,247
DANIEL:
Radim na ovom AI filmu.

1953
01:23:55,291 --> 01:23:57,815
KEVIN:
I kako ide?

1954
01:23:57,858 --> 01:24:00,426
DANIEL:
Znaš, to... to je stvarno...

1955
01:24:00,470 --> 01:24:02,167
-JOANNE ROHER: Bok, dušo.
-DANIEL: Bok, mama.

1956
01:24:02,211 --> 01:24:03,864
JOANNE: Pa što jest
premisa filma?

1957
01:24:03,908 --> 01:24:06,519
Je li to dokumentarac?
Kev, nemoj više koristiti začine.

1958
01:24:06,563 --> 01:24:08,304
Već je prezačinjeno.

1959
01:24:08,347 --> 01:24:10,436
Upravo pravimo piletinu.

1960
01:24:10,480 --> 01:24:12,612
- Je li to dokumentarac ili što...
-DANIEL: Radi se o...

1961
01:24:12,656 --> 01:24:13,961
film je o
kraj svijeta.

1962
01:24:14,005 --> 01:24:15,789
Smak svijeta dolazi,

1963
01:24:15,833 --> 01:24:17,574
i snimamo film
o smaku svijeta.

1964
01:24:17,617 --> 01:24:19,837
-JOANNE: Stvarno?
-DANIEL: Da.

1965
01:24:19,880 --> 01:24:21,578
KEVIN: Malo depresivno
film, zvuči kao.

1966
01:24:21,621 --> 01:24:23,449
JOANNE:
Da.

1967
01:24:23,493 --> 01:24:28,976
DANIEL: Osjećam se puno,
kao-- ova vrlo akutna tjeskoba.

1968
01:24:29,020 --> 01:24:31,370
JOANNE: To je tako strašno,
ali mora biti...

1969
01:24:31,414 --> 01:24:35,287
znaš, jeste li se sastajali
neki-neki superpametni ljudi

1970
01:24:35,331 --> 01:24:37,768
koji ti daju bilo kakve odgovore?

1971
01:24:37,811 --> 01:24:39,465
DANIEL: To je ono što je
frustrirajuće zbog toga.

1972
01:24:39,509 --> 01:24:41,337
Nitko ne zna.

1973
01:24:41,380 --> 01:24:43,904
JOANNE:
Sve što mogu reći na to je to

1974
01:24:43,948 --> 01:24:49,867
svaka generacija je imala
ovako nešto strašno.

1975
01:24:49,910 --> 01:24:52,217
KEVIN: Kad sam se rodio, bilo je
kubanske raketne krize.

1976
01:24:52,261 --> 01:24:54,263
[ujednačen otkucaj srca]

1977
01:24:54,306 --> 01:24:56,352
Samo sam se uplašio da tamo
će biti nuklearni rat.

1978
01:24:56,395 --> 01:24:57,744
JOANNE:
Da, ali nismo znali

1979
01:24:57,788 --> 01:24:59,094
što će učiniti i...

1980
01:24:59,137 --> 01:25:00,530
KEVIN:
I nije došao kraj svijeta.

1981
01:25:00,573 --> 01:25:01,618
Svi su se probudili
sljedeće jutro,

1982
01:25:01,661 --> 01:25:03,402
a mi još uvijek radimo svoje.

1983
01:25:03,446 --> 01:25:04,969
DANIEL:
jako se bojim,

1984
01:25:05,012 --> 01:25:06,840
posebno u
kontekst, kao,

1985
01:25:06,884 --> 01:25:09,147
- znaš, beba i...
-[fetalni otkucaji srca pulsiraju]

1986
01:25:09,191 --> 01:25:10,540
KEVIN:
Bit će to krivulja učenja.

1987
01:25:10,583 --> 01:25:12,063
JOANNE:
Bit ćeš dobro.

1988
01:25:12,107 --> 01:25:13,064
KEVIN: Ne možeš,
ne možeš razmišljati o tome

1989
01:25:13,108 --> 01:25:14,326
ono što ne možeš kontrolirati, Daniele.

1990
01:25:14,370 --> 01:25:16,154
Samo zapamti to.

1991
01:25:16,198 --> 01:25:17,677
DANIEL (prekidan glas):
Stvarno, stvarno osjećam

1992
01:25:17,721 --> 01:25:19,201
nervozan i uplašen zbog toga.

1993
01:25:19,244 --> 01:25:21,028
Ima toliko toga
koje ne mogu kontrolirati.

1994
01:25:21,072 --> 01:25:23,857
KEVIN: Ne budi nervozan.
Ne smiješ dopustiti da te to pogodi.

1995
01:25:23,901 --> 01:25:26,251
Možete samo kontrolirati
što možeš kontrolirati,

1996
01:25:26,295 --> 01:25:27,905
i to je sve što možeš učiniti.

1997
01:25:27,948 --> 01:25:30,603
Više od toga ne možete učiniti.

1998
01:25:30,647 --> 01:25:32,649
Zapiši to u svoju knjigu.

1999
01:25:35,347 --> 01:25:36,870
♪ ♪

2000
01:25:44,095 --> 01:25:46,663
[fetalni otkucaji srca pulsiraju]

2001
01:25:46,706 --> 01:25:49,231
[zavijanje]

2002
01:25:49,274 --> 01:25:51,581
CAROLINE:
Kad pogledaš unazad,

2003
01:25:51,624 --> 01:25:54,453
svijet uvijek smakne.

2004
01:25:54,497 --> 01:25:56,803
A kad gledaš naprijed,

2005
01:25:56,847 --> 01:25:59,241
svijet uvijek smakne.

2006
01:25:59,284 --> 01:26:02,157
...u plamenu.
Jedna kuća već gori...

2007
01:26:02,200 --> 01:26:05,377
CAROLINE: Ali svijet
također uvijek počinje.

2008
01:26:07,988 --> 01:26:09,947
DANIEL:
Jeste li spremni?

2009
01:26:09,990 --> 01:26:11,992
Jeste li ikada stvarno spremni?

2010
01:26:15,909 --> 01:26:17,650
DANIEL: Želiš voziti
ili želiš da ja vozim?

2011
01:26:17,694 --> 01:26:18,782
CAROLINE:
Ti voziš.

2012
01:26:20,479 --> 01:26:21,828
-[žena govori nerazgovijetno]
-CAROLINE: U redu.

2013
01:26:21,872 --> 01:26:23,700
DANIEL:
Hvala ti, Maria.

2014
01:26:23,743 --> 01:26:26,268
ŽENA: Samo će
osjećati se stvarno grčevito.

2015
01:26:26,311 --> 01:26:27,791
-CAROLINE: U redu.
-ŽENA: Jesi li spreman?

2016
01:26:27,834 --> 01:26:29,053
-CAROLINE: Da.
-[nejasno brbljanje]

2017
01:26:29,096 --> 01:26:30,924
[Caroline teško uzdahne]

2018
01:26:30,968 --> 01:26:32,404
ŽENA: Mogli biste biti u
medicinska drama sa svim tim...

2019
01:26:33,840 --> 01:26:35,842
♪ ♪

2020
01:26:44,329 --> 01:26:45,896
-[statičko pucketanje]
-[nejasno brbljanje]

2021
01:26:49,116 --> 01:26:51,075
ŽENA:
... neki pritisak.

2022
01:26:52,685 --> 01:26:54,078
Samo se opusti.

2023
01:26:56,907 --> 01:26:59,214
-[dječji plač]
-[zvučni signal uređaja]

2024
01:27:02,129 --> 01:27:04,915
DANIEL:
Bok, prijatelju. ooh

2025
01:27:04,958 --> 01:27:06,438
Bok, prijatelju.

2026
01:27:06,482 --> 01:27:08,484
♪ ♪

2027
01:27:31,202 --> 01:27:33,683
KEVIN:
Bit će to potpuno novi svijet

2028
01:27:33,726 --> 01:27:35,032
za tebe, Daniele.

2029
01:27:37,208 --> 01:27:40,080
I mislim da ćeš biti
nevjerojatan otac.

2030
01:27:41,517 --> 01:27:44,346
JOANNE [smije se]:
To je sigurno.

2031
01:27:44,389 --> 01:27:46,609
-[Kevin plače]
-Oh.

2032
01:27:46,652 --> 01:27:48,654
[plakanje se nastavlja]

2033
01:27:48,698 --> 01:27:50,787
KEVIN:
Napravit ćeš sjajan posao.

2034
01:27:51,788 --> 01:27:53,050
JOANNE:
Kev, zašto plačeš?

2035
01:27:53,093 --> 01:27:54,617
KEVIN:
Plačem jer...

2036
01:27:54,660 --> 01:27:57,054
ne znam jednostavno ne...

2037
01:27:57,097 --> 01:27:59,317
DANIEL: Tata, hoćeš
rasplakati i mene.

2038
01:27:59,361 --> 01:28:00,710
zašto plačeš

2039
01:28:03,190 --> 01:28:05,497
KEVIN: Jednostavno to znam
bit ćeš nevjerojatan tata.

2040
01:28:05,541 --> 01:28:07,107
DANIEL [plače]:
Samo ću biti sjajan tata

2041
01:28:07,151 --> 01:28:09,675
jer sam imala sjajnog tatu.

2042
01:28:09,719 --> 01:28:12,287
KEVIN: Postajem emotivan,
to je sve

2043
01:28:12,330 --> 01:28:13,679
JOANNE:
Ajme

2044
01:28:13,723 --> 01:28:14,898
[razigrano čavrljanje preko videa]

2045
01:28:14,941 --> 01:28:16,552
[preko videa]:
Dječak, oh, dečko!

2046
01:28:16,595 --> 01:28:17,857
Bože moj!

2047
01:28:18,902 --> 01:28:20,817
Pogledaj te male bezobraznike.

2048
01:28:20,860 --> 01:28:24,777
Pogledaj te male bezobraznike.
Pogledaj te male bezobraznike.

2049
01:28:24,821 --> 01:28:26,344
Da.

2050
01:28:26,388 --> 01:28:28,433
DANIEL:
Znam kako završiti ovaj film.

2051
01:28:29,478 --> 01:28:32,263
Bebe.

2052
01:28:32,307 --> 01:28:35,266
-Kraj filma je otprilike
bebe.-[čavrljanje preko videa]

2053
01:28:35,310 --> 01:28:37,094
Oni afirmiraju život.

2054
01:28:37,137 --> 01:28:38,922
Iscrpljujuće su.

2055
01:28:38,965 --> 01:28:40,793
-[beba se smije]
- Smiješni su.

2056
01:28:40,837 --> 01:28:42,665
I vrijede toga.

2057
01:28:42,708 --> 01:28:46,451
Ovaj film nije o
unutarnje funkcioniranje tehnologije.

2058
01:28:46,495 --> 01:28:48,235
Ne radi se o
izvršni direktori milijarderi.

2059
01:28:48,279 --> 01:28:50,194
Ne radi se o geopolitici.

2060
01:28:50,237 --> 01:28:53,589
Ne radi se o zastrašujućem
budućnost ili kraj svijeta,

2061
01:28:53,632 --> 01:28:55,678
jer moj svijet
tek počinje.

2062
01:28:55,721 --> 01:28:57,375
Gradim jaslice.

2063
01:28:57,419 --> 01:28:59,290
Upravo ovdje, upravo sada.

2064
01:28:59,334 --> 01:29:00,465
[dječje gugutanje]

2065
01:29:00,509 --> 01:29:02,337
AI će sve promijeniti

2066
01:29:02,380 --> 01:29:05,601
na previše moćan način i
složeno za razumijevanje.

2067
01:29:05,644 --> 01:29:08,952
A budućnost nije
da bilo tko od nas odluči.

2068
01:29:10,736 --> 01:29:13,609
Ali ono što mogu odlučiti jest biti
najbolji mogući muž

2069
01:29:13,652 --> 01:29:17,700
za moju ženu i najbolje
mogući tata za mog sina.

2070
01:29:17,743 --> 01:29:21,399
Dakle, je li naša AI budućnost
košmarna distopija

2071
01:29:21,443 --> 01:29:23,836
ili utopija
koju svi sanjamo,

2072
01:29:23,880 --> 01:29:26,883
Barem ću znati
da sam učinio sve što sam mogao

2073
01:29:26,926 --> 01:29:30,103
voditi moju obitelj
kroz ovu AI revoluciju.

2074
01:29:30,147 --> 01:29:33,846
I bez obzira na sve,
zajedno ćemo se suočiti s tim.

2075
01:29:33,890 --> 01:29:35,195
[pobuđuje glazba]

2076
01:29:35,239 --> 01:29:36,806
[glazba naglo prestaje]

2077
01:29:36,849 --> 01:29:40,505
DANIEL:
Dakle, to je samo naša prva ideja.

2078
01:29:40,549 --> 01:29:42,812
Kakav je osjećaj?
Osjećaš li ovo?

2079
01:29:42,855 --> 01:29:45,249
Čekaj, ja-- kao, ovo nije--
ovo je šala.

2080
01:29:45,292 --> 01:29:47,425
Nije zapravo
kako ćeš to završiti.

2081
01:29:50,036 --> 01:29:52,648
Mislim, to je samo ideja. U redu?

2082
01:29:52,691 --> 01:29:54,389
Ne, Daniele.

2083
01:29:54,432 --> 01:29:56,129
...uh, jako, jako glupo.

2084
01:29:56,173 --> 01:29:58,915
Ti si samo potrošio, ja ne
znam koliko godina

2085
01:29:58,958 --> 01:30:02,571
našeg života radeći na ovome,
razgovarajući sa svakim vodećim stručnjakom

2086
01:30:02,614 --> 01:30:04,964
na planetu o temi,

2087
01:30:05,008 --> 01:30:07,663
i ti ćeš tome stati na kraj

2088
01:30:07,706 --> 01:30:10,796
s nekim, kao,
kumbaya sranje?

2089
01:30:10,840 --> 01:30:13,495
Postoji asteroid
uputio na Zemlju.

2090
01:30:13,538 --> 01:30:15,497
čime se baviš samo...

2091
01:30:15,540 --> 01:30:17,629
držati se za ruke
i nadam se da će biti dobro?

2092
01:30:17,673 --> 01:30:19,414
Apsolutno ne.

2093
01:30:19,457 --> 01:30:22,286
Moramo-- to ha--
mora biti...

2094
01:30:22,329 --> 01:30:24,419
Kraj mora...

2095
01:30:25,855 --> 01:30:27,900
CAROLINE:
U redu, prva stvar:

2096
01:30:27,944 --> 01:30:31,426
AI je ovdje,
i tu je da ostane.

2097
01:30:31,469 --> 01:30:32,905
Sranje je iz konja,

2098
01:30:32,949 --> 01:30:35,430
ali konj je
nastavit ću srati.

2099
01:30:38,171 --> 01:30:39,651
[navijanje publike]

2100
01:30:39,695 --> 01:30:41,566
Znate, jedan od osnovnih
zakoni povijesti

2101
01:30:41,610 --> 01:30:44,003
je li to ništa
stvarno imaju početak

2102
01:30:44,047 --> 01:30:45,962
i ništa nema kraja.

2103
01:30:46,005 --> 01:30:47,703
Samo se nastavlja.

2104
01:30:47,746 --> 01:30:50,532
AI nije ni blizu
njegov puni razvoj.

2105
01:30:50,575 --> 01:30:52,795
CAROLINE: Čak i ako
trenutni balon AI puca,

2106
01:30:52,838 --> 01:30:54,579
- ljudi nikada neće stati
-[bukač puše]

2107
01:30:54,623 --> 01:30:57,539
gradeći sve više i više
moćna tehnologija.

2108
01:30:57,582 --> 01:30:59,410
HAO:
Možete odabrati da ne koristite AI

2109
01:30:59,454 --> 01:31:02,239
ili sudjelovati u tome, ali je
ionako će utjecati na tebe.

2110
01:31:02,282 --> 01:31:04,023
DANIEL: Dobro, fantastično.
Tako da smo sjebani.

2111
01:31:04,067 --> 01:31:06,635
CAROLINE: Ne, nismo
zbog jedne jednostavne stvari.

2112
01:31:10,943 --> 01:31:12,989
Ovo nije neizbježno.

2113
01:31:13,032 --> 01:31:15,208
Kad bismo samo mogli vidjeti
jasno zajedno,

2114
01:31:15,252 --> 01:31:18,342
očit će odgovor biti
odabrati nešto drugačije.

2115
01:31:18,385 --> 01:31:21,040
Moramo vrlo jasno
promijeniti igru

2116
01:31:21,084 --> 01:31:23,129
od utrke do dna
u utrku do vrha.

2117
01:31:23,173 --> 01:31:27,438
LEAHY: Problem koji trebamo
riješiti nije AI posebno.

2118
01:31:27,482 --> 01:31:31,224
To je općenito pitanje
kako gradimo društvo

2119
01:31:31,268 --> 01:31:33,879
koji se može nositi s
moćna tehnologija.

2120
01:31:33,923 --> 01:31:35,359
Jer mi ćemo dobiti

2121
01:31:35,402 --> 01:31:36,795
samo sve moćniji
tehnologija.

2122
01:31:36,839 --> 01:31:39,668
CAROLINE:
Moramo unaprijediti naše društvo,

2123
01:31:39,711 --> 01:31:41,496
a prvi korak je
okupljajući se

2124
01:31:41,539 --> 01:31:43,367
-i zahtjevna...
-SVI: Koordinacija.

2125
01:31:43,410 --> 01:31:47,023
Neki oblik međunarodnog
suradnji ili dogovoru o

2126
01:31:47,066 --> 01:31:48,503
kakve bi trebale biti norme.

2127
01:31:48,546 --> 01:31:49,895
Znate, kako treba
budu raspoređeni...

2128
01:31:49,939 --> 01:31:51,549
Onako, pravi
međunarodna diplomacija

2129
01:31:51,593 --> 01:31:53,290
među velesilama.

2130
01:31:53,333 --> 01:31:56,293
Kinezi su jednako zabrinuti
o tome kao Amerikanci.

2131
01:31:56,336 --> 01:31:57,729
Mislim da je teško,
znaš,

2132
01:31:57,773 --> 01:31:59,514
u struji
geopolitička klima,

2133
01:31:59,557 --> 01:32:01,254
- ali mislim da je potrebno.
-RASKIN: Apsolutno.

2134
01:32:01,298 --> 01:32:04,693
Na potpuno isti način na koji
posljednji put da čovječanstvo

2135
01:32:04,736 --> 01:32:09,611
razvio tehnologiju
ovo opasno...

2136
01:32:09,654 --> 01:32:12,396
...koji je zahtijevao kompletan,
pomak bez presedana

2137
01:32:12,439 --> 01:32:15,530
na strukturu našeg svijeta.

2138
01:32:15,573 --> 01:32:17,619
CAROLINE:
Moramo to dovršiti,

2139
01:32:17,662 --> 01:32:20,883
opet neviđeni pomak.

2140
01:32:20,926 --> 01:32:24,103
Znate, mi-mi razgovaramo s ljudima
koji rade u tim AI tvrtkama,

2141
01:32:24,147 --> 01:32:25,322
i kažu da žele učiniti
nešto drugačije,

2142
01:32:25,365 --> 01:32:26,628
ali treba im pritisak javnosti.

2143
01:32:26,671 --> 01:32:28,151
Oni trebaju vladu
učiniti nešto.

2144
01:32:28,194 --> 01:32:29,979
Onda idemo u DC,
i oni kažu,

2145
01:32:30,022 --> 01:32:31,850
„Pa, treba nam Silicijska dolina
učiniti nešto drugačije.

2146
01:32:31,894 --> 01:32:33,635
Oni su ti koji će
smisli zaštitnu ogradu."

2147
01:32:33,678 --> 01:32:35,680
I tako svi pokazuju prstom
prst na nekog drugog,

2148
01:32:35,724 --> 01:32:39,466
a ono oko čega se slažu je
da nam treba pritisak javnosti

2149
01:32:39,510 --> 01:32:41,207
kako bi nešto drugo
dogoditi se.

2150
01:32:41,251 --> 01:32:42,818
I to je ono što ti

2151
01:32:42,861 --> 01:32:44,254
i svi ljudi
gledanje ovog filma može učiniti.

2152
01:32:44,297 --> 01:32:45,298
CAROLINE:
Moramo držati vođe

2153
01:32:45,342 --> 01:32:47,083
u našim vladama

2154
01:32:47,126 --> 01:32:48,563
i čelnici
te tvrtke odgovorne.

2155
01:32:48,606 --> 01:32:51,000
BOEREE:
U kojoj god zemlji bili,

2156
01:32:51,043 --> 01:32:52,871
neka znaju
da nisi sretan

2157
01:32:52,915 --> 01:32:54,569
uz trenutni status quo.

2158
01:32:54,612 --> 01:32:57,093
Dakle, da, dosadno je to reći
nazovite svog kongresmena.

2159
01:32:57,136 --> 01:32:59,356
Ne kažem da bi trebao
samo to učini, ali, kao,

2160
01:32:59,399 --> 01:33:00,923
mi to moramo učiniti.

2161
01:33:00,966 --> 01:33:02,402
Kao, moramo dobiti
uključena vlada.

2162
01:33:02,446 --> 01:33:03,839
DANIEL: Pa mi samo
nazovi ih i reci,

2163
01:33:03,882 --> 01:33:05,971
"Hej, zaustavi Big Tech
od uništenja svijeta"?

2164
01:33:06,015 --> 01:33:08,887
CAROLINE: Ne, ali postoje
tone stvarno očitog,

2165
01:33:08,931 --> 01:33:10,672
jednostavne stvari
možemo biti zahtjevni.

2166
01:33:10,715 --> 01:33:12,499
Trebamo transparentnost.

2167
01:33:12,543 --> 01:33:14,240
Moramo okončati tajnovitost
koja postoji unutar ovih laboratorija,

2168
01:33:14,284 --> 01:33:16,634
jer oni grade
moćna tehnologija,

2169
01:33:16,678 --> 01:33:18,680
i javnost zaslužuje znati
što se događa.

2170
01:33:18,723 --> 01:33:20,682
U konačnici,
trebat će nam nezavisni,

2171
01:33:20,725 --> 01:33:23,249
objektivne treće strane
za procjenu sustava.

2172
01:33:23,293 --> 01:33:27,036
Na tvrtke ne možemo računati
da ocjenjuju vlastitu zadaću.

2173
01:33:27,079 --> 01:33:31,170
Ako-ako tvrtka koristi AI i-i
ima AI u interakciji s vama,

2174
01:33:31,214 --> 01:33:34,957
trebalo bi otkriti da ste
u interakciji sa sustavom umjetne inteligencije.

2175
01:33:35,000 --> 01:33:38,613
Da. I-i također trebamo
sustav koji čini poduzeća

2176
01:33:38,656 --> 01:33:41,833
zakonski odgovoran za
AI sustavi koje proizvode.

2177
01:33:41,877 --> 01:33:45,750
Moramo se uvjeriti da tamo
su testovi i sigurnosni standardi

2178
01:33:45,794 --> 01:33:48,013
koje se primjenjuju na sve.

2179
01:33:48,057 --> 01:33:49,711
Trebaju nam neka osnovna pravila,

2180
01:33:49,754 --> 01:33:51,538
i moramo se nastaviti prilagođavati
ta pravila

2181
01:33:51,582 --> 01:33:54,585
pri brzini koja
tehnologija se razvija.

2182
01:33:54,629 --> 01:33:57,153
LEAHY: Trenutno postoji
više regulacije

2183
01:33:57,196 --> 01:33:59,285
na prodaju sendviča
javnosti

2184
01:33:59,329 --> 01:34:02,898
nego što postoji na građevini
potencijalno kraj svijeta AGI.

2185
01:34:02,941 --> 01:34:04,682
CAROLINE:
I zadnja stvar je

2186
01:34:04,726 --> 01:34:07,598
da se nadogradimo.

2187
01:34:07,642 --> 01:34:09,731
Ovo nije, kao, posao
iz, kao, sigurnosnog tima

2188
01:34:09,774 --> 01:34:11,733
u bilo kojem laboratoriju ili izvršni direktor.

2189
01:34:11,776 --> 01:34:13,299
Dakle, ovo je
svačiji posao.

2190
01:34:13,343 --> 01:34:14,779
Nemoj, kao, ostaviti to
do stručnjaka za umjetnu inteligenciju.

2191
01:34:14,823 --> 01:34:16,955
Kao, [bleep] to.
Kao, ovo je trenutak

2192
01:34:16,999 --> 01:34:19,262
da smo u tranziciji
od, kao,

2193
01:34:19,305 --> 01:34:21,525
uglavnom ljudska spoznajna moć
na, kao, AI kognitivnu moć,

2194
01:34:21,568 --> 01:34:23,092
i utječe na sve,

2195
01:34:23,135 --> 01:34:24,833
i želim da ljudi budu
u tom razgovoru.

2196
01:34:24,876 --> 01:34:26,878
I rekao bih, ako mislite
da će nas AI sve pobiti,

2197
01:34:26,922 --> 01:34:28,488
trebao bi raditi
u istraživanju umjetne inteligencije

2198
01:34:28,532 --> 01:34:30,229
da budemo sigurni da neće,
jer ti imaš

2199
01:34:30,273 --> 01:34:32,188
ogromna količina agencija.

2200
01:34:32,231 --> 01:34:33,842
CAROLINE:
tko god da si,

2201
01:34:33,885 --> 01:34:35,844
ti si stručnjak
u vlastitoj industriji,

2202
01:34:35,887 --> 01:34:39,151
u vlastitoj školi,
u vlastitoj obitelji,

2203
01:34:39,195 --> 01:34:42,589
a na vama je
kako se AI koristi u vašem životu.

2204
01:34:42,633 --> 01:34:44,983
Bilo da se želite pridružiti
tvoj školski odbor

2205
01:34:45,027 --> 01:34:47,856
ili-ili želite li pitati
vaš poslodavac

2206
01:34:47,899 --> 01:34:49,379
kako koriste
AI tehnologije,

2207
01:34:49,422 --> 01:34:51,947
kao, svi mi možemo obaviti posao.

2208
01:34:51,990 --> 01:34:56,081
Bilo je mnogo sindikata
prilično učinkovit u, kao,

2209
01:34:56,125 --> 01:34:59,041
određujući kako žele
za interakciju s tim sustavima.

2210
01:34:59,084 --> 01:35:02,697
- Sindikati medicinskih sestara, sindikati učitelja.
-[nerazgovijetno skandiranje]

2211
01:35:02,740 --> 01:35:04,568
DANIELA AMODEI: Voljela bih
ako roditelji posvuda

2212
01:35:04,611 --> 01:35:06,135
otišao u tvrtke AI
i rekao,

2213
01:35:06,178 --> 01:35:08,006
„Kako možeš biti bolji
na ovo?" Uključujući i nas.

2214
01:35:08,050 --> 01:35:11,183
Dakle, osnovao sam Encode Justice
kad sam imao 15 godina.

2215
01:35:11,227 --> 01:35:14,839
Prvi smo u svijetu
i najveća vojska mladih ljudi

2216
01:35:14,883 --> 01:35:18,364
boreći se za čovjekocentričan
umjetna inteligencija.

2217
01:35:18,408 --> 01:35:21,019
Nije važno tko si,
čak i najmanja djela pomažu,

2218
01:35:21,063 --> 01:35:23,935
pa čak i početak razgovora
je stvarno, stvarno vrijedan.

2219
01:35:23,979 --> 01:35:25,937
DANIEL:
Dakle, moj posao bi mogao biti, kao,

2220
01:35:25,981 --> 01:35:27,939
reci Bubby Lili o ovome
na večeri?

2221
01:35:27,983 --> 01:35:29,767
CAROLINE: Iskreno, da,
to je dio toga.

2222
01:35:29,811 --> 01:35:31,638
I to ćemo morati učiniti

2223
01:35:31,682 --> 01:35:34,424
puno stvari koje
još nismo ni smislili.

2224
01:35:34,467 --> 01:35:36,034
Ljudi će gledati
sve što smo naveli

2225
01:35:36,078 --> 01:35:37,253
i reći: "To nije dovoljno."

2226
01:35:37,296 --> 01:35:38,950
Bitno je da snage

2227
01:35:38,994 --> 01:35:40,909
koji rade
prema rješenjima

2228
01:35:40,952 --> 01:35:44,434
početi premašivati sile koje
rade protiv rješenja.

2229
01:35:44,477 --> 01:35:46,392
Činiti svijet boljim
uvijek je bilo teško.

2230
01:35:46,436 --> 01:35:47,829
Nikad nije bilo lako.

2231
01:35:47,872 --> 01:35:49,961
Kao, bilo ih je
mnogo usranih stvari

2232
01:35:50,005 --> 01:35:51,920
koje su se dogodile u povijesti,
i imali smo...

2233
01:35:51,963 --> 01:35:53,704
kao, ljudi su imali
nositi se s tim,

2234
01:35:53,748 --> 01:35:56,794
a onda su ustali
i promijenio ga.

2235
01:35:56,838 --> 01:36:00,319
Postoji sulud broj
izazova koji su pred nama,

2236
01:36:00,363 --> 01:36:04,106
ali ako ih možemo proći,

2237
01:36:04,149 --> 01:36:08,066
možemo otključati budućnost dalje
naša najluđa mašta.

2238
01:36:08,110 --> 01:36:10,416
CAROLINE:
Moramo se okupiti

2239
01:36:10,460 --> 01:36:14,246
i pronaći put između
obećanje i opasnost.

2240
01:36:14,290 --> 01:36:16,422
Ne možemo biti pesimisti
ili optimisti.

2241
01:36:17,423 --> 01:36:19,425
Moramo postati nešto novo.

2242
01:36:21,732 --> 01:36:24,474
Zove me prijatelj
apokaloptimista.

2243
01:36:24,517 --> 01:36:26,041
"Apokaloptimist"?

2244
01:36:26,084 --> 01:36:28,260
Mislim da bi to moglo biti
moja nova omiljena riječ.

2245
01:36:28,304 --> 01:36:29,914
-[smijeh] -MUŠKARAC: Možda
ime ovog filma.

2246
01:36:29,958 --> 01:36:31,263
-Moglo bi biti ime
ovog filma. -[smijeh]

2247
01:36:31,307 --> 01:36:34,179
-"Apokaloptimist."
-"Apokaloptimist."

2248
01:36:34,223 --> 01:36:35,833
Da.

2249
01:36:35,877 --> 01:36:37,269
Ne vjerujem u propast.

2250
01:36:37,313 --> 01:36:39,054
Vjerujem u duh života,

2251
01:36:39,097 --> 01:36:42,666
uh, a ja vjerujem u život
o sposobnosti djelovanja.

2252
01:36:42,709 --> 01:36:44,276
-[publika pjeva]
- Sposobnost povezivanja,

2253
01:36:44,320 --> 01:36:46,365
sposobnost osjećanja.

2254
01:36:49,020 --> 01:36:50,979
-[nejasno brbljanje u misiji]
-[navijanje]

2255
01:36:51,022 --> 01:36:53,938
Moramo se udvostručiti
sve više i više

2256
01:36:53,982 --> 01:36:57,028
na tim kapacitetima
koje imamo kao ljudi

2257
01:36:57,072 --> 01:37:00,118
da robotski sustavi
nikada neće imati.

2258
01:37:00,162 --> 01:37:04,296
Sada je vrijeme
donositi te odluke o

2259
01:37:04,340 --> 01:37:07,473
kako ga voditi i podržati
nego nas dijeli.

2260
01:37:07,517 --> 01:37:10,259
DANIEL: Zvuči nekako kao
odgajanje klinca.

2261
01:37:10,302 --> 01:37:12,435
To je ono što se događa. Da.

2262
01:37:12,478 --> 01:37:14,480
CAROLINE: AI možda jest
više sirove inteligencije

2263
01:37:14,524 --> 01:37:17,222
- nego naši mali ljudski mozgovi,
-[beba se smije]

2264
01:37:17,266 --> 01:37:21,052
ali mi smo puno više
nego samo naša inteligencija.

2265
01:37:21,096 --> 01:37:25,056
Inteligencija je-jest
sposobnost rješavanja problema.

2266
01:37:25,100 --> 01:37:28,320
Mudrost je sposobnost spoznaje
koje probleme riješiti.

2267
01:37:30,932 --> 01:37:33,717
[nejasno čavrljanje posade]

2268
01:37:33,760 --> 01:37:34,892
DANIEL:
Može ići u vaš hladnjak.

2269
01:37:34,936 --> 01:37:36,198
[smijeh]

2270
01:37:36,241 --> 01:37:38,113
YUDKOWSKY:
Dakle, ne odustaj.

2271
01:37:38,156 --> 01:37:39,766
Čovječanstvo je učinilo

2272
01:37:39,810 --> 01:37:42,160
teže stvari od ovoga
u svojoj povijesti.

2273
01:37:43,553 --> 01:37:46,338
Samo je teško uvjeriti
ljudi koje bi trebali.

2274
01:37:46,382 --> 01:37:48,645
♪ ♪

2275
01:37:51,474 --> 01:37:52,562
[audio pucketa]

2276
01:37:54,912 --> 01:37:56,827
DANIEL: Dakle, kad sam počeo
snimanje ovog filma,

2277
01:37:56,871 --> 01:37:58,437
Rekao bih da sam, kao,

2278
01:37:58,481 --> 01:38:00,918
općenito cinični seronja
o cijeloj ovoj stvari.

2279
01:38:00,962 --> 01:38:03,094
Tijekom tečaja
snimanja filma,

2280
01:38:03,138 --> 01:38:04,661
Shvatio sam
to, kao,

2281
01:38:04,704 --> 01:38:07,446
to je jedina stvar
ne možemo biti.

2282
01:38:07,490 --> 01:38:09,361
...ili bilo što drugo
želite razgovarati?

2283
01:38:09,405 --> 01:38:11,363
Ne. Mislim da smo dosta pokrili.

2284
01:38:11,407 --> 01:38:13,017
-Da. [smijeh]
-ČOVJEK: Hvala vam puno.

2285
01:38:13,061 --> 01:38:15,498
Hvala.

2286
01:38:15,541 --> 01:38:16,891
DANIEL:
Ovo je problem koji je veći

2287
01:38:16,934 --> 01:38:19,067
nego bilo koja osoba.

2288
01:38:19,110 --> 01:38:21,547
Ovo će promijeniti svijet
načine koje ne razumijemo.

2289
01:38:21,591 --> 01:38:23,462
To je sve istina.

2290
01:38:23,506 --> 01:38:25,551
-[smijeh]: U redu.
-[nejasno brbljanje]

2291
01:38:25,595 --> 01:38:27,684
DANIEL:
Ali ono što imamo preko agencije

2292
01:38:27,727 --> 01:38:30,078
je ono što radimo u vezi s tim.

2293
01:38:30,121 --> 01:38:32,558
Kako granična umjetna inteligencija raste
eksponencijalno sposobniji...

2294
01:38:32,602 --> 01:38:34,430
DANIEL:
I stvarnost

2295
01:38:34,473 --> 01:38:36,562
je da ako samo odlučimo
beznadno je,

2296
01:38:36,606 --> 01:38:39,000
onda je beznadno.

2297
01:38:39,043 --> 01:38:40,740
...izložiti manje stresa
na planeti zemlji...

2298
01:38:40,784 --> 01:38:42,742
DANIEL:
Ali ako odlučiš

2299
01:38:42,786 --> 01:38:45,528
koje želiš probati...

2300
01:38:46,790 --> 01:38:48,096
...onda probaj.

2301
01:38:48,139 --> 01:38:49,967
A to je teško.

2302
01:38:51,273 --> 01:38:53,188
Ali znate što?

2303
01:38:53,231 --> 01:38:56,278
Velike stvari izgledaju nemoguće
prije nego što se stvarno dogode.

2304
01:38:58,149 --> 01:39:01,413
Ali kada se konačno dogode,

2305
01:39:01,457 --> 01:39:05,243
to je zato što milijuni ljudi
poduzeo milijune akcija

2306
01:39:05,287 --> 01:39:07,550
kako bi ih ostvarili.

2307
01:39:07,593 --> 01:39:10,292
I tako...

2308
01:39:10,335 --> 01:39:12,424
moramo pokušati.

2309
01:39:13,469 --> 01:39:14,905
[teško uzdahne]

2310
01:39:21,129 --> 01:39:23,522
Previše je toga na kocki.

2311
01:39:23,566 --> 01:39:25,611
♪ ♪

2312
01:39:32,401 --> 01:39:34,664
[pucketanje filma]

2313
01:39:37,232 --> 01:39:41,236
Pogledajte nevjerojatne promjene
doživjeli smo i preživjeli

2314
01:39:41,279 --> 01:39:42,846
iz kamenog doba,

2315
01:39:42,889 --> 01:39:46,110
a opet još veće promjene
još dolaze.

2316
01:39:46,154 --> 01:39:49,157
["Izgubio sam od pokušaja"
svira Son Lux]

2317
01:40:18,403 --> 01:40:20,449
♪ ♪

2318
01:40:47,606 --> 01:40:50,174
♪ Što ćemo sada? ♪

2319
01:40:50,218 --> 01:40:53,221
♪ Izgubili smo se pokušavajući ♪

2320
01:40:53,264 --> 01:40:55,092
♪ Izgubili smo ga ♪

2321
01:40:55,136 --> 01:40:56,746
♪ Za pokušaj ♪

2322
01:40:59,575 --> 01:41:02,230
♪ Što ćemo sada? ♪

2323
01:41:02,273 --> 01:41:05,189
♪ Izgubili smo se pokušavajući ♪

2324
01:41:05,233 --> 01:41:06,973
♪ Izgubili smo ga ♪

2325
01:41:07,017 --> 01:41:08,714
♪ Za pokušaj ♪

2326
01:41:11,630 --> 01:41:14,111
♪ Što sad možemo reći? ♪

2327
01:41:14,155 --> 01:41:17,201
♪ Naša usta samo lažu ♪

2328
01:41:17,245 --> 01:41:18,637
♪ Naša usta ♪

2329
01:41:18,681 --> 01:41:20,683
♪ Samo laže ♪

2330
01:41:25,122 --> 01:41:27,690
♪ Što sad možemo reći? ♪

2331
01:41:27,733 --> 01:41:30,823
♪ Naša usta samo lažu ♪

2332
01:41:30,867 --> 01:41:32,216
♪ Naša usta ♪

2333
01:41:32,260 --> 01:41:34,218
♪ Samo laže ♪

2334
01:41:34,262 --> 01:41:36,264
♪ ♪

2335
01:42:01,071 --> 01:42:03,726
♪ Prepusti se i izađi ♪

2336
01:42:03,769 --> 01:42:06,685
♪ Ustajemo u umirućem ♪

2337
01:42:06,729 --> 01:42:08,209
♪ Ustajemo ♪

2338
01:42:08,252 --> 01:42:10,211
♪ U umirućem ♪

2339
01:42:13,127 --> 01:42:15,781
♪ Prepusti se i izađi ♪

2340
01:42:15,825 --> 01:42:18,654
♪ Ustajemo u umirućem ♪

2341
01:42:18,697 --> 01:42:20,221
♪ Ustajemo ♪

2342
01:42:20,264 --> 01:42:22,223
♪ U umirućem ♪

2343
01:42:25,051 --> 01:42:27,663
♪ Prepusti se i izađi ♪

2344
01:42:27,706 --> 01:42:30,666
♪ Ustajemo u umirućem ♪

2345
01:42:30,709 --> 01:42:32,233
♪ Ustajemo ♪

2346
01:42:32,276 --> 01:42:34,148
♪ U umirućem ♪

2347
01:42:37,107 --> 01:42:39,718
♪ Prepusti se i izađi ♪

2348
01:42:39,762 --> 01:42:42,591
♪ Ustajemo u umirućem ♪

2349
01:42:42,634 --> 01:42:43,809
♪ Mi ♪

2350
01:42:43,853 --> 01:42:45,898
♪ ♪

2351
01:43:15,580 --> 01:43:17,626
♪ ♪

2352
01:43:22,761 --> 01:43:25,286
♪ Oh, oh, oh, oh, oh ♪

2353
01:43:25,329 --> 01:43:26,983
♪ Oh, oh, oh, oh ♪

2354
01:43:27,026 --> 01:43:28,419
♪ Oh, oh ♪

2355
01:43:28,463 --> 01:43:31,379
♪ Oh, oh, oh, oh, oh, oh ♪

2356
01:43:31,422 --> 01:43:32,945
♪ Oh, oh, oh, oh ♪

2357
01:43:32,989 --> 01:43:34,382
♪ Oh, oh ♪

2358
01:43:34,425 --> 01:43:37,036
♪ Oh, oh, oh, oh, oh, oh ♪

2359
01:43:37,080 --> 01:43:39,648
♪ Što ćemo sada? ♪

2360
01:43:39,691 --> 01:43:42,651
♪ Izgubili smo se pokušavajući ♪

2361
01:43:42,694 --> 01:43:44,566
♪ Izgubili smo ga ♪

2362
01:43:44,609 --> 01:43:46,307
♪ Za pokušaj ♪

2363
01:43:46,350 --> 01:43:49,005
♪ Oh, oh, oh, oh, oh, oh ♪

2364
01:43:49,048 --> 01:43:51,703
♪ Što ćemo sada? ♪

2365
01:43:51,747 --> 01:43:54,706
♪ Izgubili smo se pokušavajući ♪

2366
01:43:54,750 --> 01:43:56,578
♪ Izgubili smo ga ♪

2367
01:43:56,621 --> 01:43:58,406
♪ Za pokušaj. ♪

2368
01:43:58,449 --> 01:44:00,451
♪ ♪

2369
01:44:23,126 --> 01:44:24,475
[pjesma završava]